Autonóm drónok már öltek, új nemzetközi szabályokat sürget a szerző

A szerző, León Castellanos-Jankiewicz, a Project Syndicate-ban megjelent véleménycikkében azt írja, hogy a jövő héten Genfben ülésező vezetőknek döntő lépést kell tenniük: el kell dönteniük, tárgyalnak-e kötelező erejű szerződésről az autonóm fegyverekről. Szerinte erre azért van szükség, mert a gépek már öltek Kelet-Ukrajnában, és tavaly júliusban három civilt is megöltek Zaporizzsja térségében. (Tech Policy Press)

Az első esetet a szerző szerint két éve rögzítették: egy tízdrónos raj Bakhmut mellett csapódott be. Alexander Kokhanovskyy ukrán drónfejlesztő szerint a célpontokat AI azonosította. A szerző ezt a fajta halálos célzást emberi beavatkozás nélkül új erőszakrendnek nevezi, amelyre a nemzetközi jog nincs felkészülve.

Miért nem illeszkedik a jog a gépekhez?

A tanuló rendszerek gyakran fekete dobozként működnek, és valós időben alkalmazkodnak a környezetükhöz. Ilyenkor úgynevezett emergens viselkedés alakulhat ki: a rendszer olyan lehetőségeket használ ki, amelyeket tervezői nem láttak előre. A szerző szerint ezek a döntések nem jelezhetők előre, ami ellentmond a jogi követelményeknek. A nemzetközi humanitárius jog egyetlen, diszkrét döntésből induló támadást feltételez, a drónrajok viszont eleve decentralizáltak. A Vöröskereszt Nemzetközi Bizottsága ezért a kiszámíthatatlan rendszerek teljes tiltását kérte.

Ki felel, ha nincs ember a hurokban?

Egyes álláspontok szerint a drónparancsnokok a meglévő jog alapján felelősek a fegyvereik okozta károkért. A szerző szerint ez nehezen tartható, ha az emberi irányítás megszakad: elektronikusan zavart, sötét üzemmódban repülő drónoknál a bevetés után sem ellenőrizhető, mit láttak vagy céloztak. Ilyenkor az emberi kontroll a szerző szerint illúzióvá válik. Ehhez társul, hogy a 2019-es amerikai hadsereg-jelentés szerint az emberi képességek idegi, szemészeti és hallásbeli fokozása évszázadunk közepére technikailag megvalósítható lehet, ami tovább mossa a határt a kezelő és a platform között.

Mi történt tavaly júliusban Zaporizzsjában?

A szerző egy orosz drónt említ, amelyet kísérleti AI vezérelt: a gép a leírás szerint emberi kezelő nélkül repült, egy kereskedelmi forgalomban kapható Nvidia-chipet használt az irányításhoz. Miután nem tudta megtisztítani az épületet, egy óvóhely közelében robbant fel. A szerző szerint a kezelők célkategóriát választottak, nem konkrét áldozatot, így a felelősség kérdése nehezen eldönthető.

A szerző szerint a Genfi tárgyalási szöveg, amelyet kormányzati szakértők készítettek, jó kiindulópont, de nem zárja be a kikényszeríthetőségi rést: a zavarás után csak a kilövés előtti emberi bemenetek számítanak. A szerző kötelező kötelezettségeket követel a gépeket bevető államoktól, és felelősséget a gyártó cégektől is. Ha a diplomaták nem tárgyalnak új szerződésről, a szerző szerint a Zaporizzsjai eset után is egyre több élet függ majd egyetlen kódsortól, mint az Nvidia-chipet használó drón irányítása.