Pápától AI-fegyverek betiltására szóló felhívás a Genfi tárgyalások előtt

A pápa öt pontban foglalta össze álláspontját, kiemelve, hogy az AI jövője az emberi döntéseken múlik, és az embereknek kötelességük irányítani, megváltoztatni vagy szükség esetén elutasítani annak felhasználását. „A döntő kérdés tehát nem az, hogy ’mit tud az AI?’, hanem az, hogy ’mire szolgáljon?’” – tette fel a kérdést. Figyelmeztetett, hogy az AI-versenyfutás elfeledtetheti az embereket, és egy megbízható, embereket szolgáló rendszer többet ér egy erősnél, ha annak hatásai kiszámíthatatlanok. (TNW)

Etyikai alapelvek és jogi személyiség

Második pontként leszögezte, hogy a gépek eszközök, nem személyek, és elutasította az AI rendszerek jogainak vagy jogi személyiségének megadását. „Ez a megközelítés elhomályosíthatja az emberi felelősséget, és a károsultakat egy arctalan entitással szembesítheti” – mondta. Harmadik pontként hangsúlyozta, hogy bizonyos döntéseket, mint például célpontlisták összeállítása vagy határőrizeti adatbázisok kezelése, soha nem szabad gépekre bízni, mert az ember pusztán adatponttá válhat. Ezen a ponton szólította fel az AI „lefegyverzésére”.

Nemzetközi szabályozás és a Genfi konferencia

Negyedik irányelvként fogalmazta meg, hogy az AI-nak a köz javát kell szolgálnia, nem pedig egy kiváltságos csoport érdekeit. Ötödik, talán legégetőbb pontként pedig az intézményeket említette. A világ már ismeri az etikai elveket, de hatékony nemzetközi testületekre van szükség a gyakorlatba ültetésükhöz, „megosztott szabványokkal, független felügyelettel és egyértelmű elszámoltatási mechanizmusokkal” – mondta a pápa.

Az államok az ENSZ Bizonyos Hagyományos Fegyverekről szóló Egyezménye (CCW) keretében vitatják meg a halálos autonóm fegyvereket, amelynek hetedik felülvizsgálati konferenciája november 16–20. között lesz Genfben.

Pápai előzmények és ipari reakciók

A pápa emlékeztetett Ferenc pápa 2024-es G7-es beszédére is, miszerint egyetlen gép sem dönthet emberélet kioltásáról. Pápai enciklikája, a „Magnifica Humanitas” májusi kiadása is hivatkozik erre a nézetre, amelyet korábban is képviselt már, májusban az AI-vezérelt hadviselést a megsemmisülés spiráljának nevezve. Szeptemberben pedig az AI-biztonsági aggályokat nem nevezte kamu hírnek. Az iparágon belül azonban nem mindenki ért egyet a pápával: Arthur Mensch, a Mistral vezérigazgatója vitatja a pápa álláspontját az AI hadviselésben.