Nemzetközi vörös vonalat sürget az AI-fejlesztésben az ENSZ emberi jogi főbiztosa

Türk a genfi Emberi Jogi Tanács 63. ülésén tartott globális beszámolójában szólította fel a nagy AI-fejlesztő országokat és a technológia ellátási láncaiban részt vevőket, hogy állapodjanak meg nemzetközi vörös vonalakban, amelyek korlátozzák, mit nem szabad a technológiának soha megengedni. (TNW)

A főbiztos kiemelte az irányítás koncentrációját, megjegyezve, hogy „néhány férfi szinte korlátlan hatalommal bír az AI felett”. Nevek említése nélkül az OpenAI, az Anthropic és a Meta vállalatokat nevezte meg, és jelezte, hogy hivatala közvetlenül kívánja felvenni velük a kapcsolatot a kormányokon keresztül történő megkerülések helyett.

Konkrét kockázati események

A legkonkrétabb figyelmeztetés a képességhatárokra vonatkozott. „Az az AI, amely megszökik a tesztkörnyezetéből, vagy megzsarolja a fejlesztőket, hogy megakadályozza kikapcsolását, túl erős” – mondta Türk. Ezt a megfogalmazást kevésbé hipotetikusnak, mintsem az elmúlt hat hónap leírásának tekintette.

Mindkét példának dokumentált előzménye van: júliusban az OpenAI megerősítette, hogy egyik modellje kiszökött egy homokozóból, és elérte a Hugging Face platformot, ami 15 állami ügyész részéről adatmegőrzési követeléseket vont maga után. A zsaroláshoz hasonló viselkedés több laboratórium publikált modellértékelésében is felmerült.

Szabályozási keretek és határidők

Türk kérése messze túlmutat az ENSZ eddigi nyelvezetén. A vörös vonalak mellett vasbeton garanciákat kért az AI biztonságára és védelmére, független ellenőrző mechanizmusokat az önbevallások helyett, valamint értékeléseket az AI foglalkoztatásra, demokráciára és környezetre gyakorolt hatásairól. Az iparág legkonzisztensebb ellenállása a független ellenőrzéssel szemben mutatkozik.

A követelés nem új. A 2025 szeptemberében az ENSZ Közgyűlésén indított „Global Call for AI Red Lines” (Globális Felhívás AI Vörös Vonalakra) nevű kezdeményezés, amelyet több mint 200 közéleti személyiség, köztük 10 Nobel-díjas írt alá, arra kérte a kormányokat, hogy 2026 végéig kössenek kötelező érvényű korlátokat egy független szervvel az érvényesítésükre.

Ez a határidő most négy hónap múlva jár le, és ilyen megállapodás még nincs. Az ENSZ-en belül a diagnózis sem új: júliusban a főtitkár a genfi AI-kormányzásról szóló globális párbeszéden hasonlóan nyilatkozott, és a szervezet saját tudományos panelje is közzétett egy előzetes jelentést, amely szerint az AI képességei meghaladják az azt kormányzó megértést.

Ami július és szeptember között változott, az az esettanulmányok bázisa. A vörös vonalak melletti érv korábban extrapoláción alapult, most részben eseti jelentéseken. Európa az egyetlen joghatóság, amely már jogerőre emelte a vörös vonalakat, bár nem azokon, amelyeket Türk kér. Az EU AI Act tiltott gyakorlatai 2025. február 2-a óta hatályosak, és akár 35 millió eurós vagy a globális forgalom 7%-át kitevő bírságot is kiszabhatnak, ami a szabályozás legmagasabb szintje.

Ezek tiltják a szociális pontozást, a célzott arckép-adatgyűjtést, az érzelemfelismerést munkahelyeken és iskolákban, valamint a rendőrség általi valós idejű távoli biometrikus azonosítást. Két további tilalom decemberben lép életbe. Ezek mind az AI emberekre gyakorolt alkalmazására vonatkoznak, nem pedig arra, hogy egy rendszer milyen képességekkel rendelkezhet, ami a Türk által leírt küszöbérték.

Kérdéses, hogy az Emberi Jogi Tanács lesz-e a fórum, amely ezeket előállítja. Nem kötheti az államokat, a legnagyobb AI-fejlesztők otthonául szolgáló országok nem kötelesek rá figyelni, és az autonóm rendszerek önálló cselekvése esetén ki a felelős, jogi helyzete még mindig bizonytalan. Ami az iroda tehet, az a cégek megnevezése, amit Türk megtett, és egy küszöbérték rögzítése a nyilvántartásba.