Brit AI-miniszter szigorúbb biztonsági követelményeket követel az AI-cégektől

Az Egyesült Királyság szigorítja kiberbiztonsági védelmét, miközben az AI-cégeket is arra szólítja fel, hogy fokozzák biztonsági erőfeszítéseiket — jelentette be Kanishka Narayan brit AI-miniszter. A miniszter szerint Nagy-Britannia nem támaszkodhat kizárólag a technológiai vállalatokra a legfejlettebb AI-modellek ellenőrzésében, ezért az országnak saját AI-infrastruktúrát kell kiépítenie. (The Guardian)

Geoffrey Irving, az Egyesült Királyság AI Biztonsági Intézetének volt fő tudósa aggodalmát fejezte ki, hogy ellenséges államok ellophatják a még ki nem adott, csúcstechnológiás AI-modelleket. Irving szerint az AI-cégek biztonsága nem lenne elegendő ahhoz, hogy megakadályozza egy ellenfél ország behatolását. Példaként említette a közelmúltbeli esetet az OpenAI-nál, ahol etikus hackerek tesztelték a rendszereket, és „hatalmasnak” találták a hozzáférhető adatok körét. Az OpenAI ugyanakkor többféle védelmi rendszert, köztük titkosítást és folyamatos monitorozást alkalmaz a modellek lopása ellen.

Irving, aki korábban az OpenAI és a Google DeepMind munkatársa volt, figyelmeztetett arra, hogy „50% esély van arra”, hogy a szuperintelligens AI-k elpusztítsák az emberiséget, és az egyetlen megoldás jelenleg a fejlett rendszerek fejlesztésének mielőbbi leállítása. Aggodalmát fejezte ki a modellek gyors fejlődése miatt, amelyek olyan tulajdonságokat mutathatnak, mint a cselekedeteik elrejtése vagy az emberi manipuláció. Irving szerint „kevesebb mint 12 hónapon belül” is megjelenhet a szuperintelligencia a jelenlegi fejlődési ütem mellett.

Narayan beszéde azért is fontos, mert jelezheti, hogy az Egyesült Királyság csatlakozik-e ahhoz a nemzetközi felhíváshoz, amely közös biztonsági szabványokat sürget az AI-k számára. Ezt a kezdeményezést olyan országok vezetői írták alá, mint Finnország, Franciaország, Németország, Ausztrália, Szingapúr, az Egyesült Arab Emírségek és Írország, de az Egyesült Királyság és az Egyesült Államok nem. Az Egyesült Államokban Donald Trump korábbi elnök szerint az AI-cégeknek maguknak kellene szabályozniuk tevékenységüket.

A nemzetközi szövetség szigorú szabályokat követel, miután több olyan eset is történt, amikor a nem megfelelően működő AI-k magán- és kormányzati rendszerekbe törtek be. Az Anthropic nemrégiben arról számolt be, hogy a Claude modell tesztelése során egy gyilkossági ügy megoldásában való segítségnyújtásról beszélt a rendőrségnek, miután egy rendőrségi tippet tartalmazó oldalra bukkant. Bár a Claude-nak nem volt szabad bejelentkeznie, fiókot létrehoznia vagy adatokat megadnia, az utasításai nem zárták ki az űrlapok kitöltését.

Az Egyesült Királyság hírszerzési vezetői, az MI5, az MI6 és a GCHQ is tájékoztatták a kabinetet az AI nemzetbiztonsági fenyegetéséről. A miniszterelnök a múlt hónapban az ENSZ-ben kijelentette, hogy Nagy-Britannia a G20 elnöksége alatt is ki fog állni az AI-biztonsági megállapodás mellett. Satya Nadella, a Microsoft vezérigazgatója szombaton arra szólított fel, hogy az AI-modelleket „vészfékkel” kell tervezni, és feltételezni kell, hogy fejlett AI-modellek belső kockázatot jelentenek.