Új kezdeményezést indított az ENSZ az autonóm fegyverek szabályozására

Az Egyesült Nemzetek Szervezete új kezdeményezést indított az autonóm fegyverrendszerek globális szabályozására, mivel a technológia fejlődése aggasztó ütemben halad előre. Laurent Gisel, a Vöröskereszt Nemzetközi Bizottságának (ICRC) jogi hadviselési csapatának vezetője szerint az AI már most is „fokozza a pusztítást, fokozza a törvénysértést, fokozza a konfliktusok által okozott humanitárius károkat” a csatatereken. (404 Media)

Az ICRC szerint az AI-fegyverek már most is célpontokat választanak ki és embereket ölnek meg. Izrael állítólag egy Microsoft által támogatott AI-rendszert, a Lavender nevet viselőt használta célpontok kiválasztására Gázában. Ukrán fronton pedig orosz AI-vezérelt drónok döntenek arról, mely embereket likvidáljanak. Az Egyesült Államok védelmi minisztériuma pedig Project Meridian néven indított „AI-first” kezdeményezést az autonóm fegyverek jövőjének irányítására, melynek vezetői között szerepel Elon Musk, Palmer Luckey és Newt Gingrich is.

Az emberi felügyelet csökkenése

Gisel kiemelte, hogy az AI egyik legnagyobb veszélye a sebessége. Bár a technológia segíthet a parancsnokoknak gyorsabb döntéshozatalban, ez felgyorsítja a hibák kockázatát is. „A célpontok nagyobb sebességgel és gyakoribbak keletkeznek, és gyorsabban kerülnek végrehajtásra, ami nagy aggodalomra ad okot az emberi felügyelet szintjét illetően” — mondta Gisel. Hozzátette, hogy az embernek „a hurokban” kellene maradnia, de ez nem mindig történik meg. Az Izraeli Védelmi Erők például elismerték, hogy nem vizsgálták alaposan a Lavender által generált célpontlistákat.

Etikai és morális aggályok

Az ICRC szerint az emberi tényező, különösen stressz vagy gyors döntéshozatali kényszer alatt, növeli a rendszerek iránti bizalmat, ami hibákhoz vezethet. Gisel szerint a technológiai vállalatok, amelyek távolról fejlesztik ezeket a rendszereket, nem mindig ismerik fel a harctéri használat következményeit.

Az ICRC hangsúlyozza, hogy a nemzetközi humanitárius jognak, amely folyamatosan fejlődik, minden hadviselési eszközzel szemben érvényesnek kell lennie, beleértve az AI-fegyvereket is. Gisel szerint nem általános tilalomra, hanem specifikus kategóriák tiltására és mások korlátozására van szükség. Különösen aggasztónak tartja azokat a rendszereket, amelyek teljesen eltávolítják az embert a célpont-kiválasztási folyamatból, vagy közvetlenül emberi célpontokat jelölnek meg.

Kiszámíthatatlanság és nukleáris kockázatok

Az autonóm fegyverek, különösen azok, amelyek emberi célpontokat támadnak, kiszámíthatatlanok lehetnek, ami ellentmond a katonai fegyelem alapelveinek. Gisel szerint a kiszámíthatatlan fegyverek betiltása egyértelmű kellene, hogy legyen. Az ICRC ellenzi az AI használatát nukleáris parancsnoki és irányítási rendszerekben is, Stanislav Petrov 1983-as esetére hivatkozva, amikor egy szovjet figyelmeztető rendszer téves riasztást adott, és Petrov döntése mentette meg a világot a nukleáris háborútól. Hangsúlyozta, hogy az AI-rendszereknek mindig emberi felügyelet alatt kell maradniuk.

Miközben az ENSZ vitatkozik és az ICRC szabályozási kereteket próbál kialakítani, a háborúk folytatódnak, és a katonai erők egyre inkább magukévá teszik az AI-t. Gisel szerint sürgős nemzetközi döntésekre van szükség a tiltandó és korlátozandó területek meghatározására, mert „ha egyszer a szellem kilépett a palackból, nagyon-nagyon nehéz visszatenni”.