Az AISI-nek új szerepet kellene vállalnia, érvel két szakértő
Luke Cavanaugh és Harry Camilleri szerint az AISI jelenlegi, a frontier-labok jóindulatára épülő modellje már nem tartható, ezért a hazai AI-assurance ökoszisztéma horgonyává kell válnia.

Az Egyesült Királyság AI Biztonsági Intézete (AISI) 2023 novemberi megalakulása óta egyre nagyobb szerepet kap a kormány kockázatbecslési munkájában — írja a Tech Policy Press perspektíva-cikke. A szerzők, Luke Cavanaugh és Harry Camilleri saját nevükben írnak.
Az intézmény eddig eredményesnek bizonyult: a telepítés előtti értékelések során több tucat sebezhetőséget azonosított a frontier-modelleknél, belső értékelő eszközeit világszerte használják AI-biztonsági non-profit szervezetek, és tehetséges szakembereket vonzott a közszférába. Franciaország és Japán is hasonló intézetet hozott létre 10 másik ország mellett, gyakran brit segítséggel.
A hozzáférés bizonytalansága
Az AISI működése azonban a legfejlettebb modellekhez való hozzáférésre épül, jogi kényszerítő erő nélkül. Dario Amodei, az Anthropic vezérigazgatója szeptemberben a kormányokat a „pace the frontier” kezdeményezésre szólította fel, miközben a Politico szerint a Fehér Ház arra kérte a frontier-laboratóriumokat, hogy tartsák vissza az új modelleket az AISI elől, amíg az amerikai hatóságok saját vizsgálataikat le nem zárják. A hozzáférést 17 nap után állították vissza — a szerzők szerint ez azt mutatja, hogy az intézet nem számíthat kiváltságos hozzáférésre.
Hazai AI-assurance piac
A szerzők szerint az AISI a hazai AI-assurance ökoszisztéma horgonyává válhatna. Az ökoszisztéma 12 500 munkahelyet teremtett és évi egymilliárd fontnál többet tesz hozzá a gazdasághoz. A kormány 2025-ös Assurance ütemterv-je szerint a hazai ágazat a megfelelő beavatkozások mellett 2030-ra közel 20 milliárd font értékű lehet évente — ez kormányzati számítás, a szerzők szerint a megfelelő lépésektől függ. Globálisan az előrejelzések szerint 2030-ra akár 276 milliárd dollárig nőhet a piac.
Konkrét javaslatuk az AISI nyílt forráskódú értékelőkeretrendszere, az Inspect köré épülő infrastruktúra, amelyet más nemzeti intézetek és az Egyesült Államokban működő független értékelők is használnak. Emellett a szuverén assurance-követelmények meghatározásában és az UKAS-akkreditációban is szerepet vállalhatna.
Kutatási központi szerep és nemzetközi partnerség
A szerzők javasolják, hogy az AISI az ARIA kutatóügynökséggel együttműködve dolgozzon ki kutatási agendát az AI-verifikáció és az agentek nyomonkövethetősége területén, mivel ezek a területek még alulfejlettek. Hosszabb távon az intézet technikai alapot adhat egy esetleges jövőbeli nemzetközi AI-biztonsági megállapodáshoz, különösen a középhatalmak koalíciójának kialakításában.
Az AISI-hálózat a szerzők szerint alapot adhat egy középhatalmi koalícióhoz, amely közös technikai szabványokon nyugszik. Az Inspect keretrendszer és az UKAS-akkreditáció a javaslat két konkrét eleme.