ÉlőUtoljára: az iméntMa: 31
Szabályozásfrissítve: 17:16

Az AISI-nek új szerepet kellene vállalnia, érvel két szakértő

Luke Cavanaugh és Harry Camilleri szerint az AISI jelenlegi, a frontier-labok jóindulatára épülő modellje már nem tartható, ezért a hazai AI-assurance ökoszisztéma horgonyává kell válnia.

Az AISI-nek új szerepet kellene vállalnia, érvel két szakértő
Fotó: Flavio Waser / Unsplash
forrás: Tech Policy Press·AI Forradalom szerk.·
Megosztás

Az Egyesült Királyság AI Biztonsági Intézete (AISI) 2023 novemberi megalakulása óta egyre nagyobb szerepet kap a kormány kockázatbecslési munkájában — írja a Tech Policy Press perspektíva-cikke. A szerzők, Luke Cavanaugh és Harry Camilleri saját nevükben írnak.

Az intézmény eddig eredményesnek bizonyult: a telepítés előtti értékelések során több tucat sebezhetőséget azonosított a frontier-modelleknél, belső értékelő eszközeit világszerte használják AI-biztonsági non-profit szervezetek, és tehetséges szakembereket vonzott a közszférába. Franciaország és Japán is hasonló intézetet hozott létre 10 másik ország mellett, gyakran brit segítséggel.

A hozzáférés bizonytalansága

Az AISI működése azonban a legfejlettebb modellekhez való hozzáférésre épül, jogi kényszerítő erő nélkül. Dario Amodei, az Anthropic vezérigazgatója szeptemberben a kormányokat a „pace the frontier” kezdeményezésre szólította fel, miközben a Politico szerint a Fehér Ház arra kérte a frontier-laboratóriumokat, hogy tartsák vissza az új modelleket az AISI elől, amíg az amerikai hatóságok saját vizsgálataikat le nem zárják. A hozzáférést 17 nap után állították vissza — a szerzők szerint ez azt mutatja, hogy az intézet nem számíthat kiváltságos hozzáférésre.

Hazai AI-assurance piac

A szerzők szerint az AISI a hazai AI-assurance ökoszisztéma horgonyává válhatna. Az ökoszisztéma 12 500 munkahelyet teremtett és évi egymilliárd fontnál többet tesz hozzá a gazdasághoz. A kormány 2025-ös Assurance ütemterv-je szerint a hazai ágazat a megfelelő beavatkozások mellett 2030-ra közel 20 milliárd font értékű lehet évente — ez kormányzati számítás, a szerzők szerint a megfelelő lépésektől függ. Globálisan az előrejelzések szerint 2030-ra akár 276 milliárd dollárig nőhet a piac.

Konkrét javaslatuk az AISI nyílt forráskódú értékelőkeretrendszere, az Inspect köré épülő infrastruktúra, amelyet más nemzeti intézetek és az Egyesült Államokban működő független értékelők is használnak. Emellett a szuverén assurance-követelmények meghatározásában és az UKAS-akkreditációban is szerepet vállalhatna.

Kutatási központi szerep és nemzetközi partnerség

A szerzők javasolják, hogy az AISI az ARIA kutatóügynökséggel együttműködve dolgozzon ki kutatási agendát az AI-verifikáció és az agentek nyomonkövethetősége területén, mivel ezek a területek még alulfejlettek. Hosszabb távon az intézet technikai alapot adhat egy esetleges jövőbeli nemzetközi AI-biztonsági megállapodáshoz, különösen a középhatalmak koalíciójának kialakításában.

Az AISI-hálózat a szerzők szerint alapot adhat egy középhatalmi koalícióhoz, amely közös technikai szabványokon nyugszik. Az Inspect keretrendszer és az UKAS-akkreditáció a javaslat két konkrét eleme.

Forrás

Feldolgozott sajtóforrás·Tech Policy Press

Eredeti cikk megnyitása →

Ez a cikk a fenti sajtóforrás alapján készült AI-összefoglalóval.

tetszett a cikk? oszd meg →
Megosztás

Tetszik az oldal? Támogasd a fejlesztést

Az AI Forradalom egy automatizált pipeline: napi adatgyűjtés, LLM-feldolgozás és infrastruktúra fenntartása valódi költségekkel jár. Ha értékesnek találod a tömör, naprakész AI-összefoglalókat, egy kávé sokat segít.

☕ Támogatom