Az AI-s fegyverek már bevetésben vannak, a kormányoknak korlátoznia kell őket
Az AI-rendszerek a döntési időt percekre, sőt másodpercekre csökkentették — írja Helen Clark, volt ENSZ-fejlesztési vezető és új-zélandi miniszterelnök a The Guardianben.

A katonaságok világszerte egyre inkább a mesterséges intelligenciára támaszkodnak célpontok felkutatásában, követésében és megsemmisítésében. A genfi konferencia lehetőséget kínál arra, hogy szembenézzünk az AI-val vívott háború legsúlyosabb kockázataival — lehetőleg egy, az autonóm fegyverrendszereket szabályozó szerződés formájában — írja Helen Clark a The Guardianben. (The Guardian)
Másodpercek alatt dől el a csapás
Egy néhány éve még fél órát és komoly emberi mérlegelést igénylő csapás ma percek, sőt másodpercek alatt is lezajlik. Ha az AI-rendszer átlépi az emberi kezelő által megadott megbízhatósági küszöböt, az AI veszi át a vezetést.
Clark szerint Iránban az USA AI-alapú célzással 1000 célpontot támadott az első 24 órában a februári offenzíva során. Ennek részeként a minabi iskolát is bombázták, amelyben — Clark szerint — több mint 120 gyermek halt meg.
Az orosz–ukrán háborúban széles körben használnak AI-vezérelt drónokat, amelyek a csapás utolsó szakaszában alig vagy egyáltalán nem kapnak emberi bemenetet. Közel-keleten az izraeli hadsereg a „Lavender”, a „The Gospel” és a „Where’s Daddy?” rendszerekkel azonosított feltételezett fegyveresek és otthonaik lehetséges bombázási célpontokként való megjelölésére. Clark a The Guardianben idézett izraeli források alapján azt írja, hogy a Lavender a 2023. októberi 7-i támadások után több hónapon át 37 000 palesztin célpontkijelölését segítette Gázában.
Az elszámoltathatóság hiánya
Clark szerint ezek az esetek nem kivételek, hanem egy szélesebb globális tendencia jelei. Olyan globális szakpolitikai és jogi választ követel, amely azt biztosítja, hogy a katonai döntésekért emberek és államok feleljenek, ne gépek vagy AI-rendszerek. Egy autonóm rendszer háborús bűncselekmény elkövetésében való részvétele esetén az elszámoltathatóság megállapítása nehézzé válik.
A legnagyobb a kockázat az embereket célzó fegyverek esetében, amelyek nem járművekre vagy épületekre, hanem emberekre tervezettek. Ezek nehezen különböztetik meg a harcost, az újságírót, a civilt és a gyereket. Clark idézi XIV. Leó pápa legutóbbi enciklikáját is: „Minden olyan technológia, amely az emberi arc látása nélkül teszi lehetővé a támadásokat, csökkenti a konfliktus erkölcsi küszöbét.”
Szerződés a genfi tárgyalásokon
Clark szerint a legfejlettebb autonóm fegyverrendszerekkel rendelkező kormányok régóta ellenállnak a fejlesztésükre és használatukra vonatkozó kötelező korlátozásoknak, miközben a technológia, az adatfeldolgozó rendszerek és a kapcsolódó megfigyelőeszközök gyorsan fejlődnek. Mivel egyes technológiák olcsón előállíthatók és könnyen másolhatók, Clark szerint fennáll annak a kockázata is, hogy nem állami szereplők, köztük terrorista csoportok férhetnek hozzájuk.
Ezen a héten az államok a genfi Bizonyos hagyományos fegyverekről szóló egyezmény hetedik felülvizsgálati konferenciáján ülnek össze. Clark szerint a tét az, hogy elindulnak-e a tárgyalások a fegyverekre vonatkozó szerződéses rendelkezésekről, vagy további autonóm fegyverek kerülnek a csatatereinkre és azon túl is. Clark szerint már maga a tárgyalások megkezdéséről szóló megállapodás is pozitív eredmény lenne a mai, megosztott nemzetközi helyzetben.
Clark egy érdemi szerződés alapelveiként az emberi kontrollt, az elszámoltathatóságot és az elterjedés megakadályozását nevezi meg. Eszerint a szerződés tiltaná azokat az autonóm fegyverrendszereket, amelyek nem tudnak megfelelni a nemzetközi humanitárius jognak; a többi autonóm fegyvert pedig szabályozni kellene, többek között a célzás korlátozásával, emberi felügyelettel, valamint teszteléssel és értékeléssel.
Clark szerint azok az országok, amelyek a jelenlegi elszámoltathatóság-hiányból a legtöbbet profitálnak, megpróbálhatják meghiúsítani az érdemi szerződésről szóló tárgyalásokat, ezért a többség államnak összefogva kell fellépnie. Egy gyenge szerződés, amely az elszámoltathatóságot ellenző államokat csillapítja, szerinte nem oldja meg a problémát. A genfi konferencia a hetedik felülvizsgálati konferencia, a Bizonyos hagyományos fegyverekről szóló egyezmény keretében zajlik.