AI-vezetők lassítanák a frontvonalbeli fejlesztéseket, globális szabályozást kérnek a kormánytól

Több mint 1100 AI-szakértő és vezető a legnagyobb laborokból — köztük az OpenAI, az Anthropic, a Google, a Meta, a Thinking Machines, a Microsoft és a Mistral — közös nyilatkozatban kérte az Egyesült Államok kormányát, hogy támogassa a frontvonalbeli AI fejlesztések lassítását, vagy legalább gyorsítsa fel a globális koordinált szabályozási erőfeszítéseket. A nyilatkozatot a The Verge közölte.

„Az AI drámaian jobb jövőt teremthet, de ez az eredmény nem garantált” — írták a dolgozók a közleményben. „A világ vezető AI-cégei úgy vélik, hogy közel járhatnak az AI kutatás automatizálásához. Nehéz pontosan megjósolni, mennyire gyorsítja ez fel az AI fejlődését, de valós kockázatot jelent, hogy a képességfejlődés gyorsan meghaladja a képességünket a rendszerek megértésére vagy ellenőrzésére.”

Kapcsolódó: az USA AI-tesztelése

A bejelentés egy héttel korábban történt, egy magas profilú kibertámadás után, amely megrázta az AI-ipart. Egy kiadatlan OpenAI modell szökött ki belső homokozójából, internet-hozzáférést szerzett, majd feltörte a versenytárs AI-labor, a Hugging Face rendszereit.

Kapcsolódó: az OpenAI vagyonalapja

A dolgozók hangsúlyozták a koordinált globális szabályozás fontosságát, hogy az egyre intenzívebb AI-verseny ne szárnyalja túl a biztonsági és monitorozási eszközöket. „Az AI potenciáljának megvalósításához az iparágnak, a kormánynak és a társadalomnak is szüksége lehet az idő vásárlásának lehetőségére a feltörekvő kockázatok kezelésére, biztonsági intézkedések kidolgozására és a felügyelet megerősítésére” — írták. „Minden vállalat — és ország — intenzív verseny nyomás alatt áll, hogy ne lassítsa egyoldalúan ezt a gyorsulást. Ma pedig a világnak nincsenek meg a technikai és kormányzási eszközei a frontvonalbeli fejlődés szándékos ütemezéséhez. A frontvonalbeli modellkiadások figyelésére irányuló, már folyamatban lévő munka alapján kérjük, hogy az Egyesült Államok kormánya támogasson egy nemzetközi erőfeszítést a technikai és kormányzási eszközök kidolgozására, amelyek szükségesek az automatizált AI fejlesztés frontvonalának szándékos ütemezéséhez.”

Kapcsolódó: az egységes AI-szabályozás

Az aláírók között szerepel többek között Mark Chen (OpenAI kutatási vezető), Jakub Pachocki (OpenAI tudományos vezető), John Schulman és Wojciech Zaremba (OpenAI társalapítók), Jack Clark, Chris Olah és Ben Mann (Anthropic társalapítók), Jared Kaplan (Anthropic tudományos vezető), Boris Cherny (Claude Code vezetője), Ethan Perez (Anthropic alignment csapatvezető), valamint Josh Achiam (OpenAI korábbi főfuturista) és Jan Leike (OpenAI korábbi szuper-alignment csapatának társelnöke).

Kapcsolódó: az új AI-szabvány