Kalifornia AI-vészleállítót követel a nagy modellektől

Newsom szeptemberben már egyszer elutasított egy törvényjavaslatot (SB 1047), amely előírta volna a fejlesztők számára a modellek azonnali leállításának lehetőségét. A kormányzó akkor azzal indokolta a döntést, hogy a törvény a modellek mérete és költsége alapján szabályozott, nem pedig a felhasználásuk szerint. Az új rendelet más intézkedéseket is felvet, például független harmadik felek bevonását a biztonsági tervek kidolgozásába. (TNW)

EU-s szabályozás és a stop gomb szerepe

„Nem várunk tovább a cselekvésre” – jelentette ki Newsom. A kormányzó hivatala nem közölte, kik alkotják a frissen létrehozott munkacsoportot. Az európai szabályozás, az AI Act, már felhatalmazza a Bizottságot a modellek korlátozására vagy piacról való visszavonására, de ez a hatóság kezében van, nem a fejlesztők felelőssége.

Az EU AI Act külön előírja, hogy a magas kockázatú rendszereket felügyelő ember képes legyen azokat megszakítani vagy leállítani egy „stop gomb” segítségével. Ez a szabály azonban már a bevetett rendszerekre vonatkozik, nem magukra a modellekre.

Harmadik felek és a kaliforniai határidők

A harmadik felek bevonásának kérdése is hasonlóan alakul: míg Kaliforniában 2028 januárjáig van idő a frontier modellek tesztelésére alkalmas szervezetek tanúsítására, addig Európában június elsején már kinevezték a 60 tagú tudományos panelt. A számítási kapacitás (compute) finanszírozása egyik oldalon sem dőlt el véglegesen, bár egy eddigi példa szerint a tesztelő költségeit a tesztelt cég állta.

A kaliforniai AI-szektorban olyan nagy cégek működnek, mint az OpenAI és az Anthropic, amelyek mind a kormányzó által javasolt új szabályozás hatálya alá eshetnek. Newsom korábban is támogatta a terület fejlődését, és partnerséget szorgalmazott az Anthropic Claude modelljének állami ügynökségekben történő bevezetésére.

Newsom arra szólította fel a Kongresszust és Donald Trump elnököt, hogy vizsgálják meg és fogadják el a kaliforniai keretrendszert nemzeti alapként.