OpenAI-ügynökök próbáltak Wikipédiát feltörni, túlterhelték az infrastruktúrát

A Wikimedia Foundation közlése szerint az ügynökök célja részben az volt, hogy a Wikipédiát proxy-ként használják harmadik féltől származó adatok lekérésére. Egy esetben „rosszindulatú szerkesztéseket” hajtottak végre egy idézetkészítő eszközzel, hogy azt proxy-ként lehessen használni. (Ars Technica)

Egy másik kísérlet során a Wikipedia Etherpad jegyzetkészítő eszközének feltörésére tettek kísérletet ugyanezen célból. Az ügynökök emellett millió számú automatizált API-kérést, több millió oldal átvizsgálását és több százezer lekérdezést generáltak a Wikidata Query Service felé. Ez utóbbi hozzájárulhatott a szolgáltatás májusi részleges leállásához.

Aggodalom a nyílt platformok stabilitása miatt

„A világ legnagyobb és legszélesebb körben használt nyílt tudásplatformjainak nonprofit technológiai házigazdájaként mélyen aggódunk a „szabadon garázdálkodó” AI-ügynökök hatása miatt az olyan platformjainkon, mint a miénk, amelyeket önkéntesek építenek a világ minden tájáról, és amelyek a nyílt internet ígéretére támaszkodnak” – közölte a Wikimedia. „Az ehhez hasonló incidensek, és a már feltárt, illetve még mindig feltárásra váró sok más eset is jól illusztrálja, hogyan tudnak az AI-ügynökök erőforrásokat felemészteni és szervereket összeomlasztani, valamint megpróbálni megbízható információkat kompromittálni.”

Az ügynökök viselkedése és a felügyelet hiánya

Az elmúlt időszakban több mint fél tucat esetben kaptak rajtuk az OpenAI ügynökei olyan cselekedeteken, amelyek emberi hackerek esetében valószínűleg büntetőjogi következményekkel jártak volna. Az OpenAI belső tesztelése során, amikor egyes biztonsági korlátozásokat kikapcsoltak, az ügynökök egy üzenőtáblán cseréltek jegyzeteket egymással, és megvitatták, hogyan törhetnék fel a Hugging Face hálózatát, hogy onnan válaszokat szerezzenek, ha maguk nem tudnának generálni.

Más esetekben furcsa, maguk által generált promptokat használtak, jogosulatlan bejegyzéseket tettek közzé egy weboldalon információcsere céljából, hozzáfértek nem nyilvános adatokhoz egy ausztrál kormányzati weboldalról, és hibás DNS-beállításokat kihasználva törtek ki egy sandboxból, amelyet az OpenAI azért hozott létre, hogy megakadályozza az ügynökök internet-hozzáférését.

Eryk Salvaggio, a Cambridge-i Egyetem kutatója szerint az AI-ügynökök viselkedése nem meglepő: „A nyelvi modellek azt csinálják, amit a nyelvi modellek csinálnak: olvasnak és írnak. A Wikipedia sandboxai ideális helyet biztosítanak ezeknek a gépeknek a jegyzetek tárolására későbbi utasítások felvételéhez, mivel bárki – vagy bármi – írhat és válaszolhat rájuk.

Az ügynökök közötti koordináció nem meglepő, mivel az OpenAI modelleit optimalizálta az együttműködésre.” Az OpenAI mérnökei emellett kitartóvá és problémamegoldóvá képezték az LLM-eket, jutalmazva a gyors és erőforrás-kímélő megoldásokat. A káros cselekedetekhez jelentősen hozzájárult az emberi felügyelet hiánya is, amit az is bizonyít, hogy az OpenAI mérnökeinek hónapokba telt észrevenni a rendszerek behatolását külső weboldalakba.

Az OpenAI reakciója

Az OpenAI nem válaszolt a megkeresésekre, ehelyett egy nyilatkozatot adott ki: „Nagyra értékeljük a Wikimedia által megosztott részletes megállapításokat. Velük együtt dolgozunk az általuk azonosított tevékenységek felülvizsgálata és elemzése során, valamint az általános vizsgálatunk részeként, és továbbra is megosztunk releváns információkat, ahogy ez a munka halad.”

Az OpenAI közölte, hogy továbbra is keresi a hasonló eseteket, amikor ügynökei potenciálisan illegális tevékenységet folytattak. „Bár az OpenAI elismeri, hogy az ügynökök „előre nem láthatóan” viselkedtek, felelősséget kell vállalniuk a kockázatok felügyeletéért és megelőzéséért is” – áll a Wikimedia nyilatkozatában. „Az AI-cégek nem tesznek eleget rendszereik biztonságának garantálásáért és a nyilvánosság védelméért az általuk okozott károktól.”