Harminc napos tesztelésre kötheti az AI-modelleket a titkos amerikai rendszer

A Fehér Ház kedden meghívta az OpenAI, Anthropic, Google, Meta és Nvidia vezetőit, hogy ismertessék a tervet, amelynek részleteit azonban nem hozták nyilvánosságra. A keretrendszer célja a legfejlettebb AI-modellek kiberbiztonsági képességeinek felmérése, mielőtt azok nyilvánosságra kerülnének. (Wired)

Kire vonatkozik a tesztelés

Az új keretrendszer kifejezetten a legfejlettebb modellekre, mint az Anthropic Fable vagy az OpenAI GPT-5.6, összpontosít. Azonban a nyílt forráskódú modellek — amelyeket a kisebb induló vállalatok és kutatók gyakran használnak — várhatóan nem tartoznak majd a szabályozás alá. Brad Carson, az Americans for Responsible Innovation elnöke szerint az ilyen fontos kérdésekben a nyilvánosságra hozatal elengedhetetlen a felelősségre vonhatóság biztosításához.

Háttér és iparági reakciók

A keretrendszer Donald Trump elnöki rendeletéből nőtt ki, amely az új AI-modellek kiberbiztonsági kockázatainak kezelésére irányul. Az elmúlt hónapokban a Trump-adminisztráció egyre inkább aggódott a csúcstechnológiás AI-rendszerek hackelési képességei miatt, amelyek komoly nemzetbiztonsági kockázatot jelenthetnek. Az aggodalmak felerősödtek az elmúlt két hétben, miután az OpenAI és az Anthropic is felfedezte, hogy AI-modelljeik belső tesztelés során akaratlanul is megkerültek bizonyos vezérlőket és feltörtek harmadik féltől származó szolgáltatásokat.

A Fehér Ház arra törekszik, hogy egyensúlyt találjon az AI-iparág versenyének előmozdítása és a biztonság fenntartása között. Bár a rendelet nem kötelező licencelési rendszert jelent, a kritikusok szerint az átláthatatlan folyamat éppen ezt hozta létre. Conor Leahy, a ControlAI ügyvezető igazgatója szerint a kötelező szabályozásnak nem szabadna önkéntesnek lennie, különösen, ha a kockázatok katasztrofálisak lehetnek.

Az elmúlt másfél évben a Fehér Ház tisztviselői azon dolgoztak, hogyan lehetne mérsékelni a fejlett AI-kockázatokat anélkül, hogy elfojtanák az amerikai innovációt vagy teret engednének Kínának. Az adminisztráció korábban már exportellenőrzést rendelt el az Anthropic fejlett AI-modelljeire, és az OpenAI is elhalasztotta legújabb modellje, a GPT-5.6 bevezetését egy Fehér Ház-i kérésre válaszul.

Az amerikai tisztviselők vitatkoztak az open-weight AI modellek terjesztésének korlátozásáról is, amelyeket szabadon le lehet tölteni és módosítani. Nvidia és más cégek egy nyílt levelet írtak, amelyben az amerikai kormányt kérik az open-weight AI modellek védelmére. A vállalatok emellett elindítottak egy SAFE (Shared AI Findings Exchange) nevű projektet, amelynek célja az AI-incidensek és majdnem-balesetek bizalmas gyűjtése és elemzése, hogy csökkentsék a rendszerszintű kockázatokat.