Az ENSZ Biztonsági Tanács elé áll a két legnagyobb AI-cég vezetője

Amodei távolról, online csatlakozik a megbeszéléshez, amelyet a Bloomberg News látott programja szerint. A tanácsülésre a világ vezetői New Yorkban gyűlnek össze az ENSZ Közgyűlésére. (Bloomberg Technology)

A meghívott technológiai szereplők

A DeepSeek kínai AI-fejlesztő is meghívást kapott a tanács elé, hogy az AI által jelentett kockázatokról beszéljen. A 15 tagú tanács szerdán ülésezik. A DeepSeek mellett a Moonshot nevű kínai cég is meghívást kapott, bár a tervek utolsó pillanatban még változhatnak.

A tanácsülésen részt vesznek amerikai cégek vezetői is. Sam Altman, az OpenAI vezérigazgatója személyesen szólal fel, míg az Anthropic vezető tisztségviselői is várhatóan jelen lesznek. A tanács soros elnöke, Franciaország hívta össze az ülést, amely több hetes nyilvános vita után következik az AI-fejlesztések ütemezéséről.

Előzmények és álláspontok

Dario Amodei korábban arra kérte a cégeket, hogy lassítsák az AI-modellek fejlesztési ütemét. Ezt a javaslatot Altman és Elon Musk is támogatta, Mark Zuckerberg azonban ellenezte.

Az AI-biztonság és szabályozás kérdései napirendre kerültek. Az ENSZ főtitkára, António Guterres szerint az AI-fejlesztések veszélyei nem hagyhatók figyelmen kívül, míg Donald Trump amerikai elnök úgy véli, a jelenlegi biztonsági intézkedések elegendőek.

A tanács már 2023-ban elkezdte az AI-vel kapcsolatos vitákat. Kína akkor kijelentette, hogy az AI nem válhat „szilaj lóvá”, az Egyesült Államok pedig aggodalmát fejezte ki az AI kormányzati cenzúrára és elnyomásra való felhasználásával kapcsolatban. Franciaország által kiküldött koncepciójegyzet kiemeli az AI rosszindulatú felhasználásának lehetőségét és a fejlett modellek feletti kontroll elvesztésének veszélyét.