Ha a biztonsági kutatóknak ki kell lépniük a cégből, baj van
Isabelle Ferreras, az Oxfordi Egyetem kutatója szerint a biztonsági munkatársak távozása nem elszigetelt eset, hanem intézményi hiba, amelyet a szabályozásnak kell orvosolnia.

Az elmúlt két évben visszatérő minta alakult ki a vezető AI-laboratóriumokban: biztonsági kutató vagy mérnök hagyja ott a céget nyilvános figyelmeztetéssel, miszerint a kereskedelmi nyomás felülírja a biztonsági korlátokat — írja a The Guardian véleményrovata.
Az OpenAI termékkiadásainak biztonsági jelentéseiért felelős munkatárs a múlt hónapban azért lépett ki, mert szerinte a cég kultúrája „megromlott”, az egész iparág pedig túl gondatlan a technológia fejlesztésében. Az előző hónapban az OpenAI riválisa, az Anthropic egyik kutatója távozott azzal a figyelmeztetéssel, hogy szerinte az AI „az évtized végére mindannyiunkat megölhet”.
Távozás nem hang
Ferreras szerint a társadalom a bátor személyek előtt tiszteleg, vitatja a figyelmeztetéseiket néhány hírciklusig, majd továbblép. A mélyebb intézményi hibát azonban elmulasztjuk: Albert Hirschman politikatudós szerint a kilépés nem egyenlő a hanggal. Ha a lelkiismeretes mérnöknek csak a távozás marad a riasztás eszköze, az a vállalati irányítás megrendülését jelzi. Minden távozással olyan tudás hagyja el a céget, amely a rendszerek biztonságos irányításához szükséges.
A szerző szerint ezért a szabályozás kívülről nem elég. Londonban ezen a héten szakpolitikusok, technológiai dolgozók, szakszervezeti tagok, parlamenti képviselők és a Vatikán, valamint az ENSZ szakértői vitatják az AI biztonságát. Ferreras figyelmeztet: nem szabályozhatjuk biztonságosan az AI-t kívülről, ha az azt építő cégek belül autokráciaként működnek.
Az uniós szabályozás kritikája
A szerző bírálja Ursula von der Leyen digitális omnibusz-csomagját, amely halasztja a 2024-es AI-törvény egyes, a nagy kockázatú AI-rendszerek fejlesztőire vonatkozó szabályainak végrehajtását. Szerinte ez a biztonság és az innováció közötti kompromisszum téves keretezése, amelyet a vállalati lobbik erősítenek.
Ferreras szerint az AI nem pusztán szoftvertermék, hanem a kormányzás technológiája. A frontier-laborokban — például az OpenAI-nál, az Anthropicnál, a Microsoftnál és a Google-nél — néhány vezető és befektető dönti el, milyen értékek kódolódnak a modellekbe, amelyek millió életet befolyásolnak. A szerző a vállalati jogra is kitér: szerinte a jog még mindig a részvényeseket tekinti a cég tulajdonosának, a munkavállalókat pedig alárendeltnek.
Három javasolt reform
Ferreras három lépést sürget. Először a jogalkotóknak meg kell védeniük azokat, akik az AI-modelleket építik: tiltani kell a biztonsági kockázatokról szóló hallgatási és lejárató klauzulákat, és erős whistleblower-védelmet kell bevezetni. Másodszor a telepítésnél kötelező egyeztetést kell előírni: a Meta nyári példája szerint a munkavállalók billentyűleütéseit és képernyőtartalmát gyűjtő eszköz miatt belső tiltakozás tört ki. Harmadszor a vállalatok igazgatótanácsaiba munkavállalói képviselőket kell delegálni.
A szerző Daron Acemoglu és Simon Johnson közgazdasági Nobel-díjas munkáira hivatkozva állítja, hogy a technológiai forradalmak nem termelnek automatikusan közös jólétet: az intézmények döntik el, ki nyer és ki fizet. Szerinte a demokrácia kiterjesztése a vállalatra gyakorlati szükséglet az etikusabb döntésekhez. Ha az AI-irányítást továbbra is az önszabályozásra és a ritka whistleblowerekre bízzuk, egy elszámoltathatatlan algoritmikus oligarchia szilárdulhat meg — zárja gondolatmenetét Ferreras, aki a Louvaini Egyetem kutatási igazgatója is.