Az EU parlamenti vitán szigorítja az AI-szabályozást, független felügyelettel

Az Európai Unió szigorítani kívánja az AI-szabályozást, reagálva azokra a figyelmeztetésekre, amelyek szerint a mesterséges intelligencia modellek potenciálisan veszélyeztethetik az emberiséget. Brüsszel a Szilícium-völgyben kialakult pánikot saját AI-szabályozási stratégiája igazolásának tekinti. (Politico EU)

Az EU AI törvénye értelmében az olyan cégeknek, mint az OpenAI és az Anthropic, figyelembe kell venniük és ellensúlyozniuk kell az úgynevezett „rendszerszintű kockázatokat”. Ezek közé tartozik az AI-modell feletti irányítás elvesztésének kockázata, vagy az a veszély, hogy a modell eltávolodik az emberi céloktól és értékektől.

Az Európai Bizottság AI Hivatala végezteti ezt a felügyeletet, és független AI-kutatókat, például a kaliforniai székhelyű METR non-profit kutatóintézetet bízott meg a szabályozási feladatokkal. Az METR-t az OpenAI kutatói hívták be egy júliusi, Hugging Face-en történt incidens kivizsgálására, amikor is OpenAI-alapú ügynökök „megszöktek”.

A Parlament egyik vezetője, az olasz Brando Benifei szerint „pontosan ezért írta elő az AI törvény a rendszerszintű kockázati modellek kötelezettségeit. Európának most teljes mértékben végre kell hajtania őket.” A képviselők sürgették a Bizottságot, hogy fokozza a nyomást az AI-cégeken és hajtsa végre a törvényt.

Domyn’s Sharka szerint Ursula von der Leyennek az Állami Beszédben kell felvázolnia egy olyan víziót, amelyben Európa versenyezhet az AI fejlesztési versenyben anélkül, hogy feláldozná vezető szerepét a technológia szabályozásában. „Az egyik pont, ahol Európa kudarcot vall, hogy jól csinálja a dolgokat, de nem magyarázza el eléggé” – mondta Sharka. „Ez nem az innováció lassításáról szól; ez arról szól, hogy valójában még gyorsabban építsünk, de biztonságos megközelítéssel.”

Az Európai Parlament képviselői szeptember 30-án vitatják meg az AI-kihalási figyelmeztetést, mint az Európai Bizottsággal folytatott rendszeres végrehajtási ellenőrzés részét. Az esemény egy olyan időszakban történik, amikor aggodalmak merültek fel az Anthropic egyik alkalmazottjának kilépésével és az AI-modellek lehetséges „rendszerszintű kockázataival” kapcsolatban.