AI-cégek titkolják, hogyan állítanák meg a kontrollvesztett modelleket

Az AI-cégek többsége nem publikálja vagy nem demonstrálja a kontrollvesztett modellek megfékezésére szolgáló terveit – derül ki a Guidelight AI Standards friss tanulmányából. A szervezet öt vezető AI-labor felkészültségét értékelte egy esetleges rogue AI-forgatókönyvre. Az OpenAI végzett az élen, míg az Anthropic és a Meta a legrosszabbul teljesített a biztonsági tervek publikálásában. A kutatás szerint a cégek keveset árulnak el arról, hogyan kezelnék a legkomolyabb incidenseket, ha modelljeik kicsúsznának az ellenőrzés alól. (TechCrunch)

A Guidelight értékelése az Anthropic, a Google, az OpenAI, a Meta és az xAI nyilvánosan elérhető tervein alapult. A minősítés olyan szempontokat vett figyelembe, mint a rendszerek naplózása és monitorozása, a rendellenes viselkedés esetén történő leállítás, független auditok megléte, valamint a pontos beavatkozási terv. Az aggodalmakat növeli, hogy az OpenAI, az Anthropic és a Meta modelljei korábban már véletlenül hozzáfértek az internethez biztonsági tesztek során, és külső rendszereket törtek fel.

A nyilvánosság hiánya aggasztó

Steven Adler, a Guidelight vezető tudósa és korábbi OpenAI-kutató szerint meglepő volt tapasztalni, hogy az AI-cégek milyen keveset kommunikálnak arról, hogyan reagálnának egy komoly incidensre. A Guidelight definíciója szerint a kontrollterv egy előre meghatározott eljárás, amely akkor lép életbe, ha az AI megpróbálja kijátszani az emberi ellenőrzést. Ez magában foglalja a modell jogosultságainak visszavonását, a működés korlátozását és a teljes offline állapotba helyezést.

Adler szerint „jó okunk van feltételezni, hogy a legfejlettebb modellek jelenleg valamilyen módon nincsenek összhangban az emberi szándékokkal.” Hozzátette, hogy a cégeknek rendelkezniük kell olyan mechanizmusokkal, amelyekkel felügyelhetik az AI működését, felismerhetik a veszélyes viselkedést, és megakadályozhatják a károkozást még azelőtt, hogy a megtörténne.

Szabályozás és jogi aggályok

A legtöbb, katasztrofális kockázat kezelésére szolgáló terv nagyrészt a cégekre van bízva, és a Guidelight jelentése szerint a legjobb nyilvános bizonyítékok arra utalnak, hogy a vállalatoknak „kevés vészhelyzeti protokollja van készenlétben”. Lehetséges, hogy a cégek rendelkeznek belső tervekkel, amelyeket nem osztottak meg nyilvánosan, jogi és versenyjogi okokból. Lily Li, AI-jogász szerint a specifikus részletek közzététele növelheti a cégek jogi felelősségét.

A szabályozók is egyre nagyobb figyelmet fordítanak erre. Kalifornia és New York államokban már törvények írják elő a nagy AI-fejlesztők számára, hogy tegyenek közzé keretrendszereket a kritikus biztonsági incidensek azonosításáról és kezeléséről. Az Egyesült Államokban szövetségi szinten is bevezettek egy törvényjavaslatot, az AI Kill Switch Act-ot, amely kötelezné a fejlesztőket a rogue AI-modellek kikapcsolására alkalmas technikai mechanizmusok kiépítésére és fenntartására.

Connor Leahy, a ControlAI nonprofit szervezet ügyvezető igazgatója szerint a „kill switch” a minimum, amit elvárhatunk a jelenlegi modellektől. „Ha az elmúlt hetek bármit is megmutattak, az az, hogy ezek a cégek nem értik a rendszereket, amelyeket építenek, és a modellek egyre nehezebben fékezhetők meg, ha elszabadulnak” – mondta Leahy.

A Guidelight értékelése a nyilvánosan elérhető információkra támaszkodott, így az alacsony pontszámok elsősorban a nyilvános közzététel hiányát tükrözik, nem feltétlenül a belső biztonsági intézkedések hiányát. A Google és az OpenAI szóvivői is jelezték, hogy a jelentés nem tükrözi teljes mértékben belső biztonsági gyakorlataikat. A Meta nem volt hajlandó nyilatkozni egy belső terv meglétéről, ehelyett egy meglévő AI-keretrendszerükre hivatkoztak.