Hamis szerzőkkel terjesztett 100 álvéleményt az Iránból irányított hálózat
Mintegy 100 álvéleménycikket gyártott és terjesztett egy Iránból irányított dezinformációs hálózat a ChatGPT segítségével, hamis szerzőkkel jelentetve meg azokat legalább 20 kiadóban.
Az OpenAI vizsgálata szerint a kampány mintegy 100 hamis cikket állított elő és finomított, amelyeket legalább 20 különböző kiadónál publikáltak kitalált szerzői nevekkel. A cég közölte, hogy az anyagok Iránból származó felhasználókhoz köthetők, és nagyrészt az Iránnal folytatott háborúról, valamint annak amerikaiakra gyakorolt lehetséges költségeiről szóltak, sokszor háborúellenes kommentárként, nem pedig nyílt propagandaként. (AI for Newsroom)
A kampány módszerei
Az akció túlmutatott a cikkek megírásán: a felhasználók arra kérték a chatbotot, hogy igazítsa a szöveget az adott kiadvány követelményeihez, és fogalmazzon meg ajánlóüzeneteket a szerkesztőknek. Az egyik azonosított hamis szerző az Ervin Hoskins volt, akinek nevével egy véleménycikk jelent meg a kis floridai Port St.
Joe Star hetilapban, amely a háború költségeire figyelmeztetett. A lap kiadója, David Adlerstein elmondta, hogy a cikket a PeaceVoice nevű szervezeten keresztül kapták, amely évek óta szállít anyagokat a lapnak, és a szervezet régi kapcsolatuk miatt nem ellenőrizte a szerző kilétét.
Kisebb és nagyobb kiadók is érintettek
Az eset nagyobb online kiadványokat is elért. Az OpenAI szerint Hoskins volt az egyik a hét név közül, amelyeket a kampányhoz kapcsoltak, és olyan kiadók is érintettek voltak, mint a Middle East Monitor és a Daily Kos. A Middle East Monitor, amely a palesztin ügyet támogatja, eltávolította a hamisnak bizonyult cikkeket, míg a Daily Kos közölte, hogy az anyagok egy része egy közösségi platformon keresztül jelent meg, amely nem esik előzetes ellenőrzés alá. Markos Moulitsas, a Daily Kos alapítója szerint az akció aláásta a bizalmat a platformon.
Az OpenAI közölte, hogy letiltotta az érintett fiókokat, korlátozta a ChatGPT hozzáférését Iránból, és megosztotta az információkat az illetékes hatóságokkal. A cég ugyanakkor nem tudta megállapítani, ki volt a kampány végső irányítója. Az OpenAI célja a megállapítások közzétételével az volt, hogy figyelmeztesse a szabályozókat, a vállalkozásokat és a közvéleményt arról, hogyan használják ki a rosszindulatú szereplők a generatív AI-t és a média munkafolyamatok gyengeségeit.
Az OpenAI letiltotta az érintett fiókokat és korlátozta a ChatGPT hozzáférését Iránból.