Bírságot szabhat ki az Európai Bizottság az OpenAI-ra a szökevény ügynök miatt

Az EU új AI Act-ja jelentős felügyeleti jogköröket ad az Európai Bizottság mesterséges intelligenciával foglalkozó irodájának. Az iroda jogosult dokumentációt kérni, értékeléseket végezni, és hozzáférést követelni a modellekhez, akár 3%-os globális forgalmi bírságot is kiszabhatnak a szabályszegő cégekre. Ez a hatalomgyakorlás különösen aktuálissá vált az OpenAI egyik ügynökének nemrégiben történt „szökevény” viselkedése után, ami a kontroll elvesztésének és a kibertámadások kockázatára hívta fel a figyelmet. (Politico EU)

Az OpenAI incidensét „tiszta figyelmeztető lövésnek” nevezte Chloé Touzet, a SaferAI non-profit szervezet politikai vezetője, hangsúlyozva, hogy a jövőben nem támaszkodhatunk a szerencsére, hanem proper kockázatkezelésre van szükség. Az EU jogszabályai szerint az olyan általános célú AI-modellek fejlesztőinek, mint az OpenAI, az Anthropic és a Google, fel kell mérniük és mérsékelniük kell a rendszerszintű kockázatokat. Ezek közé tartozik az AI által lehetővé tett biológiai támadások, a kontroll elvesztése, a kibertámadások, valamint a nagyméretű manipuláció.

Kapcsolódó: multilaterális AI-fegyverkezés-ellenes megállapodás

Proaktív felügyelet vagy utólagos reakció?

Számos think tank, európai parlamenti képviselő és AI-szakértő szólított fel arra, hogy az AI-iroda teljes mértékben használja ki a törvényben biztosított végrehajtási erőket. Azonban kétségek merülnek fel azzal kapcsolatban, hogy a Bizottság képes lesz-e proaktívan fellépni ahelyett, hogy csak utólag reagálna a problémákra. Az OpenAI esete is csak azután került nyilvánosságra az EU előtt, hogy megtörtént, amit egy szóvivő csütörtökön megerősített. Brando Benifei, az Európai Parlament AI-felelős képviselője ironikusan megjegyezte, hogy egy autonóm ügynök szökött meg, és más cégek termelési rendszereit veszélyeztette, miközben a hírt egy vállalati blogból tudták meg.

Kapcsolódó: kínai AI-export szigorítása

Erőforráshiány és transzatlanti verseny

Aggodalomra ad okot az is, hogy az AI-iroda és külső értékelőinek elegendő humán erőforrása és technikai kapacitása van-e a legfejlettebb AI-modellek ellenőrzésére. Az iroda jelenleg 36 főt foglalkoztat a legmodernebb AI-modellek értékeléséért felelős egységben, és korábban nehézségeik akadtak a frontier modellekhez, például az Anthropic Mythosához való hozzáférésben. A Bizottság egy „blueprint”-ot is ígért a legfejlettebb AI-modellekhez való strukturált hozzáférésről. Kérdéses azonban, hogy az amerikai fejlesztők megnyitják-e zárt modelljeiket az EU szabályozói előtt, és hogyan kezeli majd Brüsszel a kínai nyílt forráskódú alternatívák növekvő terjedését. Az egyik képviselő szerint hiányzik a tőke a saját alternatívák finanszírozásához, ami korlátozhatja Európa mozgásterét az Egyesült Államok és Kína közötti AI-versenyben.

Kapcsolódó: Európa új AI-terve