Trump-korszak titkos AI-szabályait perelik ki a bíróságon
A Trump-adminisztráció által használt, titkosnak számító AI-biztonsági tesztelési keretrendszer részleteit követeli a bíróságon a Protect Democracy nevű nonprofit szervezet. Az ügyészség szerint a szinte teljesen nyilvánosságra nem hozott szabályozás korrupcióra is lehetőséget adhat.
Négy szövetségi ügynökséget perel be a Protect Democracy nevű nonprofit szervezet, hogy nyilvánosságra hozzák a Trump-adminisztráció által a legfejlettebb AI-modellek tesztelésére használt titkos keretrendszer részleteit. A szervezet szerdai közleményében azt állítja, hogy „szinte semmilyen részlet” nem került nyilvánosságra a modellkiadások előtti biztonsági felülvizsgálatokról, sem a nagyközönség, sem a Kongresszus felé. (Ars Technica)
A szervezet szerint a kormányzati felülvizsgálati folyamat pontosan nem ismert, ahogy az sem, hogy mely cégek vesznek részt a keretrendszer kialakításában, vagy milyen jogkörrel rendelkeznek a Trump-adminisztráció tisztviselői a tesztek elvégzésére. „Sem az érintett szervezetek kiléte, sem a kiválasztásuk szempontjai nem nyilvánosak” – közölte a Protect Democracy. A csoport szerint ez azért probléma, mert „mely AI-modellek kapnak engedélyt a kiadásra, talán a legfontosabb politikai kérdés ebben a Fehér Házban”.
Titkos szabályok és korrupciós gyanú
A Protect Democracy szerint a keretrendszer potenciálisan „korrupt” lehet, ahol a Nemzeti Kiberigazgató Hivatalának, a Tudományos és Technológiai Politikai Hivatalának, a Pénzügyminisztériumnak és a Kereskedelmi Minisztériumnak tisztviselői előnyben részesíthetik Trump által kedvelt AI-cégek gyors termékbevezetéseit. A szervezet rámutatott, hogy Trump korábban már megtorolt egy AI-céget, amiért az túl „woke”-nak ítélt, amit egy bírósági ítélet is alátámasztott, amely illegálisnak minősítette Trump Anthropic elleni feketelistázását.
A technológia fejlődésével és a kibertámadások fokozódásával – mint például az OpenAI modelljének a Hugging Face feltörése – a nyilvánosság nem engedheti meg magának, hogy vakon bízzon Trumpban, amikor a legfejlettebb modellek teszteléséről van szó – állítja a Protect Democracy. Azt sem tudhatjuk, hogy az új sebezhetőségek az ügynökségek megfelelő felülvizsgálatának elmulasztásából, elavult tesztek futtatásából, fontos ellenőrzések kihagyásából vagy a vezető AI-biztonsági szakértők által javasolt legújabb mitigációs stratégiák figyelmen kívül hagyásából erednek-e.
Az OpenAI állítólagos megállapodása
A Protect Democracy szerint az OpenAI „tárgyalt egy magánmegállapodásról a szövetségi kormánnyal, hogy korlátozza legmodernebb AI-modelljeinek terjesztését kormány által jóváhagyott partnerekre”.
A per a szeptember 30-ig tartó időszakra vonatkozóan keresi a keresetben szereplő „nem minősített eljárási és szerződéses architektúrát: a keretrendszer szövegét, a részvétel feltételeit, a résztvevők kilétét, valamint a hozzáférés megadásának vagy megtagadásának folyamatát és kritériumait”. Emellett arra is felszólítanak, hogy tiltsák be a tisztviselők számára az olyan nem minősített rekordok jogellenes visszatartását.
Az amerikai képviselő, Greg Casar szerint Trump „teljesen elmulasztotta biztonságba tartani minket az AI veszélyeitől”, miközben „milliókat vett át AI-milliárdosoktól”. Casar szerint Trump „elaludt a keréknél”, és „túl elfoglalt volt a pénzkereséssel, hogy megvédje a munkahelyeinket vagy a nemzetbiztonságot”.
A kaliforniai szenátor, Josh Becker is támogatta a Protect Democracy kérését, megjegyezve, hogy Kalifornia egy olyan törvénytervezetet fontolgat, amely lehetővé tenné független szervezetek számára az AI-biztonsági szabványok alapvonalainak meghatározását. Ellentétben Trump megközelítésével, a törvénytervezet minden lépése nyilvános volt.
A Trump-adminisztráció sietett létrehozni az önkéntes biztonsági felülvizsgálati folyamatot, miután a nyár elején a kormány veszélyesnek ítélte az Anthropic Mythos 5 modelljét. A terv az iparági együttműködések gyors bővítése volt, hogy az AI Szabványok és Innováció Központjának kormányzati csapatai csökkentett vagy eltávolított biztonsági elemekkel vizsgálhassák át a kiadás előtti modelleket. A Fehér Ház júliusban indította el a GOLD EAGLE nevű rendszert, amely iparági partnerekre támaszkodik a sebezhetőségek azonosításában.
A Fehér Ház augusztus 3-án jelentette be, hogy elkészült az AI-modellek kiadás előtti önkéntes keretrendszere. A keretrendszer és a GOLD EAGLE is aktívan használatban van a legfejlettebb modellek felülvizsgálatára. A kormányzati felülvizsgálati folyamat egyes részei minősítettnek számítanak, de a keretrendszer maga nem az. A Fehér Ház szóvivője szerint „csak azért, mert valami nincs minősítve, még nem jelenti azt, hogy mindenkinek közzétesszük”.