ÉlőUtoljára: az iméntMa: 17
Hogyan működik?frissítve: 14:16

Ha a biztonsági kutatóknak ki kell lépniük a cégből, baj van

Isabelle Ferreras, az Oxfordi Egyetem kutatója szerint a biztonsági munkatársak távozása nem elszigetelt eset, hanem intézményi hiba, amelyet a szabályozásnak kell orvosolnia.

Ha a biztonsági kutatóknak ki kell lépniük a cégből, baj van
Fotó: Vitaly Gariev / Unsplash
forrás: The Guardian·AI Forradalom szerk.·
Megosztás

Az elmúlt két évben visszatérő minta alakult ki a vezető AI-laboratóriumokban: biztonsági kutató vagy mérnök hagyja ott a céget nyilvános figyelmeztetéssel, miszerint a kereskedelmi nyomás felülírja a biztonsági korlátokat — írja a The Guardian véleményrovata.

Az OpenAI termékkiadásainak biztonsági jelentéseiért felelős munkatárs a múlt hónapban azért lépett ki, mert szerinte a cég kultúrája „megromlott”, az egész iparág pedig túl gondatlan a technológia fejlesztésében. Az előző hónapban az OpenAI riválisa, az Anthropic egyik kutatója távozott azzal a figyelmeztetéssel, hogy szerinte az AI „az évtized végére mindannyiunkat megölhet”.

Távozás nem hang

Ferreras szerint a társadalom a bátor személyek előtt tiszteleg, vitatja a figyelmeztetéseiket néhány hírciklusig, majd továbblép. A mélyebb intézményi hibát azonban elmulasztjuk: Albert Hirschman politikatudós szerint a kilépés nem egyenlő a hanggal. Ha a lelkiismeretes mérnöknek csak a távozás marad a riasztás eszköze, az a vállalati irányítás megrendülését jelzi. Minden távozással olyan tudás hagyja el a céget, amely a rendszerek biztonságos irányításához szükséges.

A szerző szerint ezért a szabályozás kívülről nem elég. Londonban ezen a héten szakpolitikusok, technológiai dolgozók, szakszervezeti tagok, parlamenti képviselők és a Vatikán, valamint az ENSZ szakértői vitatják az AI biztonságát. Ferreras figyelmeztet: nem szabályozhatjuk biztonságosan az AI-t kívülről, ha az azt építő cégek belül autokráciaként működnek.

Az uniós szabályozás kritikája

A szerző bírálja Ursula von der Leyen digitális omnibusz-csomagját, amely halasztja a 2024-es AI-törvény egyes, a nagy kockázatú AI-rendszerek fejlesztőire vonatkozó szabályainak végrehajtását. Szerinte ez a biztonság és az innováció közötti kompromisszum téves keretezése, amelyet a vállalati lobbik erősítenek.

Ferreras szerint az AI nem pusztán szoftvertermék, hanem a kormányzás technológiája. A frontier-laborokban — például az OpenAI-nál, az Anthropicnál, a Microsoftnál és a Google-nél — néhány vezető és befektető dönti el, milyen értékek kódolódnak a modellekbe, amelyek millió életet befolyásolnak. A szerző a vállalati jogra is kitér: szerinte a jog még mindig a részvényeseket tekinti a cég tulajdonosának, a munkavállalókat pedig alárendeltnek.

Három javasolt reform

Ferreras három lépést sürget. Először a jogalkotóknak meg kell védeniük azokat, akik az AI-modelleket építik: tiltani kell a biztonsági kockázatokról szóló hallgatási és lejárató klauzulákat, és erős whistleblower-védelmet kell bevezetni. Másodszor a telepítésnél kötelező egyeztetést kell előírni: a Meta nyári példája szerint a munkavállalók billentyűleütéseit és képernyőtartalmát gyűjtő eszköz miatt belső tiltakozás tört ki. Harmadszor a vállalatok igazgatótanácsaiba munkavállalói képviselőket kell delegálni.

A szerző Daron Acemoglu és Simon Johnson közgazdasági Nobel-díjas munkáira hivatkozva állítja, hogy a technológiai forradalmak nem termelnek automatikusan közös jólétet: az intézmények döntik el, ki nyer és ki fizet. Szerinte a demokrácia kiterjesztése a vállalatra gyakorlati szükséglet az etikusabb döntésekhez. Ha az AI-irányítást továbbra is az önszabályozásra és a ritka whistleblowerekre bízzuk, egy elszámoltathatatlan algoritmikus oligarchia szilárdulhat meg — zárja gondolatmenetét Ferreras, aki a Louvaini Egyetem kutatási igazgatója is.

Forrás

Feldolgozott sajtóforrás·The Guardian

Eredeti cikk megnyitása →

Ez a cikk a fenti sajtóforrás alapján készült AI-összefoglalóval.

tetszett a cikk? oszd meg →
Megosztás

Tetszik az oldal? Támogasd a fejlesztést

Az AI Forradalom egy automatizált pipeline: napi adatgyűjtés, LLM-feldolgozás és infrastruktúra fenntartása valódi költségekkel jár. Ha értékesnek találod a tömör, naprakész AI-összefoglalókat, egy kávé sokat segít.

☕ Támogatom