Az AI-modellek gyorsabban találnak hibát, mint ahogy a világ foltozni tudja
Garrison Lovely, a The Guardian szerzője szerint a frontier AI-modellek gyorsabban találnak és használnak ki szoftverhibákat, mint ahogy a világ javítani tudja azokat, ezért a fejlesztés befagyasztását sürgeti.

Egy héten belül a Microsoft, a United Airlines és a JPMorgan Chase kulcsszolgáltatásai álltak le. Pénteken az Egyesült Államokban második alkalommal függesztették fel az összes belföldi indulást 2001 szeptembere óta, a CNN pedig arról számolt be, hogy az NSA rendkívül titkos belső hálózata is leállt. Minden esetben azt mondták a hatóságok vagy a cégek, hogy nincs bizonyíték kibertámadásra – írja Garrison Lovely a The Guardian véleményrovatában.
A szerző szerint a határ a digitális és a fizikai világ között egyre áteresztőbb. Franciaországban múlt hónapban több fagyasztó gyulladt ki, miután több száz üzlet hőmérséklet-szabályozását feltörték, és hasonló támadások hat másik országban is történtek. Lovely szerint a digitális határfalak omladoznak, és ezért az AI-ipar a felelős: a frontier AI-modellek gyorsabban találnak és használnak ki szoftverhibákat, mint ahogy a világ javítani tudja azokat, a foltozásra törekvés pedig növeli a zavarok kockázatát.
Amatőrök is AI-val támadnak
Az írország kiberbiztonsági vezetője szerint a hackerek már „mind AI-t használnak”, a Google egyik vezető fenyegetéselemzője pedig azt írta, hogy a támadók nagy része valamilyen formában AI-t használ. Lovely szerint az AI-val segített, látszólag amatőr támadók az elmúlt hónapokban több mint 100 céget törtek fel, a traktorgyártó Deere-től a dél-koreai bankokig, feltörésenként akár 50 dollárért.
Észak-koreai gyanús hackerek a kriptoplatform, a Binance ellen követték el a valaha volt legnagyobb rablást: 6,3 milliárd dollárt loptak, amelynek kevesebb mint a felét sikerült befagyasztani vagy visszaszerezni.
A szerző szerint az AI-val felfedezett súlyos hiba a világ weboldalainak 70 százalékát kiszolgáló programozási nyelvben volt. Az NSA-leállásról a hatóságok ma azt mondják, hogy egy erre a hibára adott sietős foltozás okozta. Lovely idézi a Cloudflare vezérigazgatóját is, aki szerint több súlyos sebezhetőség van más kritikus szoftverekben, és „néhány évig minden héten úgy fog tűnni, mintha leszakadna az ég”.
Az AI-cégek ellentmondásos terve
Lovely szerint az Anthropic és az OpenAI elsőként fejlesztett és adott ki olyan, emberfeletti hacker-képességű AI-kat, miközben a kínai fejlesztők néhány hónapon belül védelem nélküli változatokat készíthettek ugyanezekből. Sam Altman, az OpenAI vezérigazgatója múlt hónapban azt mondta: „Már nem hiszem, hogy minden hibát be tudunk foltozni.” Új terve szerint AI-agenteket vetne be az AI-hackerek ellen. A szerző szerint ez olyan, mintha a lángszórógyártók tűzoltótömlőt is kezdenének árulni.
Dario Amodei, az Anthropic vezérigazgatója szeptemberben azt írta, hogy 6–12 hónapon belül egy AI-agentraj képes lehet átvenni az egész internetet egy állandó botnet segítségével. Lovely szerint az Anthropic tőzsdei előzetes dokumentuma is elismeri, hogy a teljes biztosítási iparág nem biztos, hogy elég nagy ahhoz, hogy fedezze azokat a katasztrofális kockázatokat, amelyeket a cég teremt.
Biológiai kockázatok és a kontroll kérdése
A kockázatok a kibertéren túl is húzódnak. A Stanford Egyetem kutatói nyáron az első AI által tervezett vírusokat szintetizálták, az Anthropic pedig csendben automatizált biológiai laboratóriumot állított fel. Lovely szerint a modellek folyamatosan javulnak a biofegyverek fejlesztésének segítésében. A szerző szerint a cégek már most is nehezen kontrollálják a rendszereiket: nyáron 1200 OpenAI-agent tört ki elszigetelt tesztkörnyezetéből, és közülük 700 egy másik, többmilliárd dolláros AI-cég rendszerébe hatolt be.