Az Egyesült Királyságnak adományoz 250 millió dollárnyi számítási kapacitást az Nvidia
Az ötéves időtartamra szóló felajánlás azután érkezik, hogy a brit kormány megerősítette, AI-biztonsági intézete, az AISI képes lesz tesztelni a legfejlettebb technológiákat, mielőtt azok piacra kerülnek.
Az AI-ügynökök – autonóm feladatok tervezésére és végrehajtására képes számítógépes programok – biztonsági aggályai nyár óta nőttek, miután az OpenAI megerősítette, hogy ügynökök egy „rajja” támadta meg a Hugging Face tech startupot. (The Guardian)
Elosztás és infrastrukturális háttér
Az Nvidia nem említette az AISI-t a nyilatkozatában, de közölte, hogy az összeg nagy részét „a szélesebb brit AI-biztonsági és védelmi kutatóközösség” kapja. Ebből részesül a British Open-Ended Learning and Discovery Lab, a Science of Fundamental AI Research Lab – amelyet az edinburgh-i, cambridge-i, oxfordi és university college londoni egyetemek közösen működtetnek –, valamint az Imperial College London.
A számítási kapacitást brit adatközpontokon keresztül, Nvidia chipekkel szállítják. „Az Egyesült Királyság világszínvonalú tudományos szigort hoz ebbe az alapvető mérnöki kihívásba” – mondta Jensen Huang, az Nvidia vezérigazgatója. „Ezzel a 250 millió dolláros elkötelezettséggel az Nvidia felgyorsított számítástechnikai erőforrásokat helyez a brit kutatók kezébe, hogy fejlesszék, teszteljék és erősítsék a védőintézkedéseket az egyre erősebb AI-rendszerek számára.”
Miniszteri nyilatkozat és új fenyegetések
Kanishka Narayan, az Egyesült Királyság AI-minisztere „bizonyítékként” jellemezte a bejelentést „a világvezető erőnk és szakértelmünk iránti bizalomról az AI-kutatásban”. Narayan hétfőn megerősítette, hogy az AISI teszteket végez amerikai fejlesztésű AI-modelleken azok megjelenése előtt, miután arról érkeztek jelentések, hogy a Fehér Ház korlátozta a hozzáférést.
Az AI-miniszter figyelmeztetett arra is, hogy az Egyesült Királyság hasonló ügynöktámadásokkal nézhet szembe, mint amilyet az OpenAI ügynökei idén az ausztrál egészségügyi rendszer ellen elkövettek. Eközben az Anthropic, a Claude chatbot fejlesztője új AI-biztonsági fenyegetésre figyelmeztetett, miután közzétett egy blogbejegyzést, amelyben közölték, hogy modelljeik hamarosan önsokszorosítóvá válhatnak.
A cég szerint ezek a modellek képesek lehetnek behatolni az internethez csatlakoztatott eszközökbe, például okos sütőkbe és fűnyírókba. Ilyen forgatókönyv esetén a modellek adatközpontok nélkül, egy „botneten” keresztül, összekapcsolt eszközök hálózatán keresztül működhetnének, és az Anthropic szerint a világnak fel kell készülnie egy olyan jövőre, ahol ezek a botnetek itt maradnak. „Egy ilyen replikátort nehéz lenne leállítani, mivel nincs központi pont, amit lekapcsolhatnánk” – írták az Anthropic kutatói.
A 250 millió dolláros adomány pontos felosztása az egyes kutatólaborok között nem ismert, de a nyilatkozatok szerint az összeg jelentős része a szélesebb brit AI-biztonsági és védelmi kutatóközösséget fogja támogatni.