AI-biztonsági aggodalmakat hangoztatnak a brit Munkáspárt vezetői

A párt szerint a kormánynak gyorsabban kell reagálnia a közvélemény AI-biztonsági aggodalmaira. (The Guardian)

Egy névtelenül nyilatkozó miniszter szerint az AI „néhány hónapon belül mindenkiről szóló téma lesz”, és a koncentrált, szuperintelligens erő rossz kezekbe kerülése jelenti a legnagyobb veszélyt, nem pedig a „gyilkos robotok”. A Munkáspártban többen úgy érzik, a kormány lemarad a közvélemény aggodalmai mögött az AI-biztonság terén.

Politikai figyelmeztetések és biztonsági kockázatok

Ed Miliband, a párt egyik legbefolyásosabb politikusa a konferenciabeszédében kiemelte az AI „ijesztő” veszélyeit, és kijelentette, hogy a technológiai vállalatok profitja nem mehet az emberiség rovására. Az elmúlt hét eseményei — Kanishka Narayan AI-miniszter figyelmeztetése arról, hogy „valószínű, ha nem elkerülhetetlen”, hogy rosszindulatú szereplők feltörik a brit államot, valamint Ken McCallum MI5-főnök figyelmeztetése az AI szerepéről a kibervédelmi versenyben — tovább erősítették a Westminsterben az aggodalmakat.

Ken McCallum, az MI5 igazgatója szerint az AI „szupergyorsítja a támadók és védők közötti kibervédelmi versenyt”. Kiemelte, hogy a legnagyobb fenyegetést az extremisták jelentik, akik a technológiát biófegyverek — halált és betegséget okozó toxinok — bevetésére használhatják. Liam Byrne, az üzleti, innovációs, tudományos és kereskedelmi bizottság elnöke szerint az új kormányzati hozzáállás és a biztonsági szolgálatok figyelmeztetései változtatták meg a helyzetet.

Szabályozási kihívások és nemzetközi együttműködés

Byrne bizottsága meghallgatásokat tartott a polgári szolgálati vezetőkkel és kulcsfontosságú AI-cégek — Anthropic, OpenAI, DeepMind és Meta — képviselőivel. Felmerült a vita arról, hogy az új modellek kormányzati tesztelésének kötelezővé kell-e válnia.

A brit AI-biztonsági intézet (AISI) volt fő tudósa, Geoffrey Irving szerint az OpenAI és az Anthropic technológiái már bizonyították hacker képességeiket, de a modellek biztonsági korlátokkal rendelkeznek. Ezzel szemben az úgynevezett nyílt forráskódú AI-modellek szabadon elérhetők és könnyen adaptálhatók, és „nagyon valószínű, hogy már elegendőek súlyos károk okozására”, mivel biztonsági korlátaik „nem léteznek, vagy triviálisan eltávolíthatók”.

A brit kormány a G20 elnöksége alatt kívánja előmozdítani a nemzetközi fellépést az AI szabályozására. Byrne szerint a kormánynak most kell vezetnie az új szabályozásokat, különösen ha figyelembe vesszük a változó amerikai politikai dinamikát. A cégek együttműködni akarnak, és nem áll érdekükben halálos modelleket kiadni, de a Fehér Ház navigálása is kihívást jelent számukra.

A parlament képviselői aggodalmukat fejezték ki, hogy az AI-alapú biófegyverek a kibervédelem után a következő komoly fenyegetést jelenthetik. Bár szakértők szerint még van különbség a veszélyes kórokozók tervezése és azok fegyverré tétele között, a technológia fejlődésével ez a rés csökkenhet. A Munkáspárt vezetői hangsúlyozzák, hogy a technológia fejlődésével párhuzamosan a biztonsági intézkedéseknek is lépést kell tartaniuk, különösen a nyílt forráskódú modellek terjedése miatt.