Oroszország új befolyásoló kampányát törte fel az OpenAI

Az OpenAI leleplezett egy új, orosz eredetűnek vélt befolyásoló kampányt, amely a ChatGPT-t használta fel álhírek terjesztésére. A hálózat az „International Burke Institute” (IBI) nevű, magát szakértői közösségként bemutató szervezetet népszerűsítette, amelynek weboldala 2025 februárjában jött létre, és Izraelből jelentkezett be.

A kampányt azonosító OpenAI jelentése szerint az elkövetők orosz nyelven adtak ki utasításokat a ChatGPT-nek, hogy közösségi média kommenteket generáljon. Ezeket a kommenteket aztán Substacken, Telegramon, X-en, Facebookon és LinkedInen tették közzé, többnyire angolul. A felhasználók VPN-t használtak a korlátozások megkerülésére, és arra utasították a modellt, hogy rejtse el az orosz eredetre utaló nyelvi nyomokat.

Az IBI és a „szuverenitási index”

Az IBI weboldala nem a ChatGPT által generált tartalmakkal volt tele, hanem más forrásokból másolt, néha tévesen tulajdonított, vagy szláv nyelvről gépi fordítással készült szövegeket tartalmazott. Az egyik ilyen cikkben a „Svetofor coalition” kifejezést használták Németország „Ampelkoalition” nevű koalíciójára utalva, ami egyértelműen orosz fordítási hibára utal. Az IBI legfigyelemreméltóbb eleme egy „szuverenitási index” volt, amely Oroszországot dicsőítette és a nyugati országokat kritizálta.

AI-tevékenység és nem-AI tevékenység

A kampány főként arra használta a ChatGPT-t, hogy az IBI weboldalán található cikkeket népszerűsítő közösségi média posztokat generáljon. Emellett válaszokat is generáltak valós felhasználók posztjaihoz, gyakran az IBI csatornájának követésére buzdítva.

Az egyik elkövető német nyelvű posztokat is generált egy „Lahme Ente” („lusta kacsa”) nevű Telegram csatornára, amelyek kritikával illették Ukrajnát, az EU-t és a német kormányt, miközben jobb kapcsolatokat szorgalmaztak Oroszországgal. A második elkövető több Telegram csatornához is generált logókat, amelyek Németországra, az USA-ra, Franciaországra, Törökországra és Lengyelországra fókuszáltak.

Az IBI weboldalán olyan szakértőket soroltak fel, mint Francis Fukuyama és Noam Chomsky, azonban a weboldalon talált 36 cikkből 34-et más forrásokból másoltak. Az egyik cikk például a Cambridge University Press eredetijéből származott, de tévesen egy másik professzornak tulajdonították.

Ez az első alkalom, hogy az OpenAI egy ilyen kidolgozott, orosz kötődésű befolyásoló kampányt tudott feltárni és megszakítani. A kampány célja a közvélemény manipulálása és a politikai kimenetelek befolyásolása volt, az elkövetők valódi kilétük és szándékaik elrejtésével. Az OpenAI továbbra is elkötelezett az ilyen típusú visszaélések felderítése és megállítása mellett.