Vész-leállítást és az AI önfejlesztésének korlátozását javasolja Kalifornia
Kalifornia szabályozási javaslatcsomagot tett le, amely a rekurzív önfejlesztés korlátozását és sürgős leállítási parancsokat is lehetővé tenne; a kormányzó hivatalba lépő utódja januártól a törvényhozással dolgozik a megvalósításon.

Kalifornia széles körű AI-biztonsági javaslatokat terjesztett elő, köztük vész-leállítási lehetőséget és független laborfelügyeletet — írja a Transformer Weekly. A Newsom kormányzó megbízásából készült jelentés szerint az államnak felhatalmazást kellene kapnia arra, hogy „korlátozza” a rekurzív önfejlesztést (RSI), és vész-leállítási parancsot adjon ki, ha katasztrófa közvetlenül fenyeget.
Az ügy hátterében az aggodalmak erősödése áll. Egy jelentés szerint az AI jelentősen felgyorsította az Anthropic saját AI-fejlesztését, az OpenAI e heti adatai pedig tovább erősítik azt az elképzelést, hogy az AI-cégek közel járnak az RSI-hoz, vagyis ahhoz a ponthoz, amikor a rendszer önállóan képez egy erősebb utódot. Ez a fejlődés felgyorsíthatja az előrelépést, és emberi kontroll alól is kicsúszhat. Egyes becslések szerint erre már a következő nyáron sor kerülhet, de ez spekuláció.
Szövetségi út: szűk, de nem zérus esély
A szövetségi törvényhozás lassabb lehet, mint a kaliforniai javaslat. Trahan képviselő csütörtökön frissített FRONTIER ACT-et tett közzé, amely szövetségi alsó határt szabna az AI-jogszabályoknak, és az RSI-t a katasztrófakockázat új kategóriájaként nevesítené. Ugyanezen a napon Sara Jacobs, Don Beyer és Celeste Maloy képviselők az SAFE AI Act tervezetét is felvázolták. A kongresszusi képviselők egyre nagyobb számban követelnek tiltást az RSI-re, ami óvatos optimizmusra adhat okot — de a törvények elfogadása bizonytalan.
Miért nem elég a végrehajtó hatalomra támaszkodni?
A Transformer szerzői szerint a végrehajtó hatalomra sem érdemes egyedül építeni: a Trump-adminisztráció gyorsan tud lépni, de a döntései kiszámíthatatlanok. Az államok szintjén zajló szabályozás ezért gyorsabb és határozottabb választásnak tűnhet. Becerra kormányzó-választott csütörtökön azt mondta, januártól együtt dolgozik a törvényhozással a Newsom-jelentés ajánlásainak végrehajtásán.
Shakeel Hashim szerint a szabályozási esélyek a kevés idő ellenére sem nullák, és a feladás most súlyos hiba lenne. Az ő olvasatában a dilemma nem az, hogy van-e még idő, hanem az, hogy a döntéshozók kellő gyorsasággal és elszántsággal lépnek-e. A jogszabály elfogadása azonban még nem biztos, és a Frontier Act csütörtöki közzététele óta a kongresszusi vita is nyitott maradt.