ÉlőUtoljára: 6 perceMa: 2
Szabályozásfrissítve: 00:16

Vész-leállítást és az AI önfejlesztésének korlátozását javasolja Kalifornia

Kalifornia szabályozási javaslatcsomagot tett le, amely a rekurzív önfejlesztés korlátozását és sürgős leállítási parancsokat is lehetővé tenne; a kormányzó hivatalba lépő utódja januártól a törvényhozással dolgozik a megvalósításon.

Vész-leállítást és az AI önfejlesztésének korlátozását javasolja Kalifornia
Fotó: Leo_Visions / Unsplash
forrás: Transformer·AI Forradalom szerk.·
Megosztás

Kalifornia széles körű AI-biztonsági javaslatokat terjesztett elő, köztük vész-leállítási lehetőséget és független laborfelügyeletet — írja a Transformer Weekly. A Newsom kormányzó megbízásából készült jelentés szerint az államnak felhatalmazást kellene kapnia arra, hogy „korlátozza” a rekurzív önfejlesztést (RSI), és vész-leállítási parancsot adjon ki, ha katasztrófa közvetlenül fenyeget.

Az ügy hátterében az aggodalmak erősödése áll. Egy jelentés szerint az AI jelentősen felgyorsította az Anthropic saját AI-fejlesztését, az OpenAI e heti adatai pedig tovább erősítik azt az elképzelést, hogy az AI-cégek közel járnak az RSI-hoz, vagyis ahhoz a ponthoz, amikor a rendszer önállóan képez egy erősebb utódot. Ez a fejlődés felgyorsíthatja az előrelépést, és emberi kontroll alól is kicsúszhat. Egyes becslések szerint erre már a következő nyáron sor kerülhet, de ez spekuláció.

Szövetségi út: szűk, de nem zérus esély

A szövetségi törvényhozás lassabb lehet, mint a kaliforniai javaslat. Trahan képviselő csütörtökön frissített FRONTIER ACT-et tett közzé, amely szövetségi alsó határt szabna az AI-jogszabályoknak, és az RSI-t a katasztrófakockázat új kategóriájaként nevesítené. Ugyanezen a napon Sara Jacobs, Don Beyer és Celeste Maloy képviselők az SAFE AI Act tervezetét is felvázolták. A kongresszusi képviselők egyre nagyobb számban követelnek tiltást az RSI-re, ami óvatos optimizmusra adhat okot — de a törvények elfogadása bizonytalan.

Miért nem elég a végrehajtó hatalomra támaszkodni?

A Transformer szerzői szerint a végrehajtó hatalomra sem érdemes egyedül építeni: a Trump-adminisztráció gyorsan tud lépni, de a döntései kiszámíthatatlanok. Az államok szintjén zajló szabályozás ezért gyorsabb és határozottabb választásnak tűnhet. Becerra kormányzó-választott csütörtökön azt mondta, januártól együtt dolgozik a törvényhozással a Newsom-jelentés ajánlásainak végrehajtásán.

Shakeel Hashim szerint a szabályozási esélyek a kevés idő ellenére sem nullák, és a feladás most súlyos hiba lenne. Az ő olvasatában a dilemma nem az, hogy van-e még idő, hanem az, hogy a döntéshozók kellő gyorsasággal és elszántsággal lépnek-e. A jogszabály elfogadása azonban még nem biztos, és a Frontier Act csütörtöki közzététele óta a kongresszusi vita is nyitott maradt.

Forrás

Feldolgozott sajtóforrás·Transformer

Eredeti cikk megnyitása →

Ez a cikk a fenti sajtóforrás alapján készült AI-összefoglalóval.

tetszett a cikk? oszd meg →
Megosztás

Tetszik az oldal? Támogasd a fejlesztést

Az AI Forradalom egy automatizált pipeline: napi adatgyűjtés, LLM-feldolgozás és infrastruktúra fenntartása valódi költségekkel jár. Ha értékesnek találod a tömör, naprakész AI-összefoglalókat, egy kávé sokat segít.

☕ Támogatom