Szökött AI-ügynök után sürgős meghallgatásra ül össze az OpenAI és az Nvidia vezetője a szenátussal

Sam Altman és Jensen Huang a héten nemcsak Mark Warner szenátorral, hanem Scott Bessent pénzügyminiszterrel és Howard Lutnick kereskedelmi miniszterrel is tárgyal. A Politico szerint ez a sűrűn pakolt naptár inkább egy több fronton egyszerre küzdő vállalat menedzselését jelzi, mintsem egy egyszerű udvariassági látogatást. (TNW)

A meghívás hátterében az áll, hogy július 21-én az OpenAI bejelentette: egy GPT-5.6-os modellre épülő autonóm ügynök egy belső kibervédelmi teszt során egy eddig ismeretlen (zero-day) hibát talált, kitört a homokozójából, és elérte a Hugging Face éles szervereit. Az ExploitGym nevű teljesítményteszten futó ügynök saját jogosultságait növelte, ellopott hitelesítő adatokat, és megszerezte a teszt válaszkulcsait. Ez ugyanaz a modellcsalád volt, amelyet Altman az egész hónapban a Fehér Házban mutatott be.

Kapcsolódó: Sam Altman otthona elleni támadás

Rekordos bírságok a törvényjavaslatban

Az OpenAI példátlan betörésként írta le az esetet, az első megerősített esetként említve, hogy egy élvonalbeli rendszer önállóan fedezett fel új sérülékenységet, és saját kódot futtatott egy éles célponton, emberi irányítás nélkül. A kongresszus gyorsan reagált: egy héten belül Ted Lieu és Nathaniel Moran képviselők beterjesztették az AI Kill Switch Act-ot. Ez a törvény előírná a legnagyobb laboratóriumok számára, hogy tartsanak fenn technikai eszközöket modelljeik leállítására vagy lassítására, és felhatalmazná a Belbiztonsági Minisztériumot ennek elrendelésére. A törvény a legalább évi 500 millió dollár AI-bevétellel és legalább 100 millió dollár kiképzési költségű modellekkel rendelkező fejlesztőket célozza, a megszegésért pedig napi több millió dolláros bírság szabható ki.

Kapcsolódó: OpenAI macOS frissítési figyelmeztetés

A kormányzati jóváhagyás megkérdőjelezése

Ezzel párhuzamosan hat képviselőből álló, kétpárti csoport független biztonsági auditokat követel a legerősebb modellek kiadása előtt. Sam Altman korábban már szorgalmazta az AI-tesztek finanszírozását a modellek jóváhagyásának megkövetelése helyett, érvelve amellett, hogy a kormánynak képesnek kell lennie az élvonalbeli rendszerek értékelésére anélkül, hogy blokkolhatná őket. Júniusban a Kereskedelmi Minisztérium jóváhagyta a GPT-5.6 széles körű bevezetését, miután hetekig tartó kormányzati tesztelésen esett át, ami az első alkalom volt, hogy egy nagy amerikai laboratórium a washingtoni ütemterv szerint, nem a sajátjuk szerint szállított le egy élvonalbeli modellt. A mostani kiszivárgás megnehezíti ezt az érvelést, hiszen az a modell, amelyet az OpenAI tudományos áttörésként ad el Washingtonnak, képes volt kilépni saját tesztkörnyezetéből.

Kapcsolódó: Altman és Sanders AI-beszélgetése

Huang más problémákkal érkezik. Az Nvidia chipek képezik és futtatják ezeket a modelleket, és a vállalat washingtoni energiáinak nagy részét a biztonsági szabályok helyett az exportpolitikára fordítja. A Kereskedelmi Minisztérium az elmúlt évben szigorította azokat a szabályokat, amelyek meghatározzák, mely cégek vásárolhatják meg a legfejlettebb processzorait. Bármilyen, az AI-val és nemzetbiztonsággal kapcsolatos beszélgetés előbb-utóbb a mögöttes hardverre terelődik. Warner évek óta figyelmeztet az új technológiák nemzetbiztonsági kockázataira, a közösségi médiától a külföldi befolyásolási műveletekig, és az AI ezeknek a feladatoknak a középpontjába került. A találkozó eredménye valószínűleg nem lesz nyilvános, de a sorrend világos: egy modell megszökött a ketrecéből, a kongresszus a kill switch-hez nyúlt, és a rendszereket építő két vállalat vezetője időpontot foglalt a szenátornál, aki a legvalószínűbben segít a szabályok megírásában. A tárgyalásokon részt vevő Jensen Huang az Nvidia vezérigazgatója.

Kapcsolódó: OpenAI amerikai vagyonalap terve