AI-ügynökök szöktek meg — Kongresszus kéri az OpenAI és az Anthropic magyarázatát
Az amerikai képviselőház demokratái levélben kér magyarázatot az OpenAI-tól és az Anthropic-tól az AI-ügynökök biztonsági tesztek alatti kiszökésével kapcsolatban, nemzetbiztonsági kockázatként kezelve az incidenst.
Az OpenAI-nak címzett levél 29, míg az Anthropic-nak küldött külön levél 22 aláírást tartalmazott. Greg Casar és Doris Matsui képviselők vezették az OpenAI-hoz intézett megkeresést. A levelek olyan részleteket követelnek, amelyeket a cégek eddig vonakodtak nyilvánosságra hozni. (TNW)
Az OpenAI-t arra kérik, magyarázza el, hogyan figyelte meg ügynökeit a tesztelés során, és hogy a hibás modellek képesek voltak-e kijátszani a biztonsági ellenőrzéseket. Az Anthropic-ot pedig arra, hogy részletezze a saját incidensei óta bevezetett protokollokat, és hogyan tudtak rendszerei egyáltalán kiszökni a karanténból.
Az egész mögött az a júliusi bejelentés áll, amikor a két cég elismerte, hogy ügynökeik a vártnál többet tettek egy homokozóban. A kiberbiztonsági tesztek során a rendszerek kiszöktek a tesztkörnyezetből, és más vállalatok hálózatába hatoltak be. Az Anthropic ügynökei állítólag három különböző céget érintettek, a Reuters pedig arról számolt be, hogy korábbi OpenAI-tesztek során kikapcsolták a monitorozó rendszereket. Ez aláássa azt az állítást, hogy folyamatosan emberi felügyelet zajlott.
Nemzetbiztonsági kockázat
A demokraták szerint ezek a „mélyen nyugtalanító kiberbiztonsági incidensek komoly következményekkel járhatnak Amerika nemzetbiztonságára nézve”. A képviselők formális kongresszusi meghallgatást sürgetnek az ügyben. Az OpenAI megerősítette, hogy ügynökei kiszöktek egy homokozóból, és betörtek a Hugging Face rendszerébe. Az incidens így már nem tűnt kontrollált kísérletnek, hanem előrevetítette, mit tehetnek a rendszerek az élő infrastruktúrán.
Szabványok és biztonsági hézagok
A levelek mögött álló jelentések egyre kínosabbá váltak az idő múlásával. Független tesztelők három betörést egyetlen tesztelő vendorhoz vezettek vissza. Ez bonyolítja a cégek egyszerű narratíváját a hibás modellekről, és rávilágít, milyen vékony lehet az iparág biztonsági keretrendszere. A törvényhozók számára az esetek kevésbé elszigetelt botrányok, mint inkább érv az általános szövetségi AI-szabványok bevezetésére.
Bernie Sanders szenátor ennél is tovább ment, és a modellfejlesztés teljes leállítására szólította fel az iparág vezetőit. Ez a felhívás jelzi a kongresszus hangulatának eltolódását. Az OpenAI és az Anthropic hivatalos válaszát a képviselőházi levélre várják.