Nemcsak a közszereplőket érintik már a nem önkéntes AI-deepfake-ek

Egy Reddit-felhasználó 2017-ben hozzájárulás nélküli, hamisított videókat osztott meg híresek arcával. Majdnem tíz évvel később az AI-eszközök másodpercek alatt képesek rendkívül valósághű, szexualizált hamisított képeket előállítani, néha már egyetlen fotóból is. Egy friss kutatás, amelyben Ausztrália, az Egyesült Királyság és az USA több mint 7000 embere vett részt, szerint ez a jelenség már nem csupán a közszereplőket érinti. (The Conversation AI)

Mekkora a probléma?

A 7230 felnőtt megkérdezésével készült felmérés szerint a válaszadók 7 százaléka számolt be arról, hogy hozzájárulás nélküli szexuális deepfake-képek áldozata lett. A magasabb arányok a 35 év alatti fiatalok, az LMBTQIA+ személyek, a színes bőrű és bennszülött emberek, a fogyatékkal élők és a férfiak körében mutatkoztak. A 3,2 százalék pedig bevallotta, hogy ő maga készített, osztott meg vagy fenyegetett meg ilyen képekkel másokat.

A kutatók szerint a valós arány valószínűleg magasabb, mert sok áldozat soha nem tudja meg, hogy képeket készítettek róla, az elkövetők pedig vonakodhatnak bevallani tetteiket, még névtelen felmérésben is. Az elkövetők indítékai között nemcsak a bosszú szerepelt: sokan viccnek tartották, mások „technológiával való kísérletezésként” vagy barátaik előtti dicsekvésként élték meg a dolgot.

Hogyan élik meg az áldozatok?

Az áldozatok többsége dühről, megaláztatásról, szégyenről, félelemről és tehetetlenségről számolt be. A nők szélesebb körű és nagyobb érzelmi, társadalmi károkat jeleztek, míg a férfiak nagyobb arányban érezték magukat áldozatnak, de közülük is kevesen találták az esetet viccesnek. A károk nem feltétlenül függnek attól, mennyire tűnnek valósághűnek a képek: az áldozatok attól is szorongnak, hogy mások valódinak hiszik őket, vagy attól, hogy a képek később is előkerülnek.

A képek újra és újra felbukkannak más helyeken, így az áldozatok kimerítő, „fogd és üsd” típusú körforgásba kerülnek, amelyben folyamatosan keresniük és jelenteniük kell őket. Több áldozat arról is beszámolt, hogy nem hittek nekik, és a hatóságok, barátok vagy családtagok is lekicsinyelték az esetet, mert a képek „nem igaziak”.

Mit lehetne tenni?

Az elkövetőket felelősségre kell vonni, a megelőzés azonban nem hárítható csak az egyénekre. Az ausztrál eSafety Commissioner adatai szerint a gyermekekről érkezett, digitálisan módosított intim képekkel kapcsolatos bejelentések száma a 2025 júniusáig tartó 18 hónapban több mint kétszeresére nőtt a megelőző hét év összes bejelentéséhez képest, és a bejelentések négyötöde lányokat érint.

A kutatók szerint a technológiai cégeknek biztonsági korlátokat kell beépíteniük az AI-eszközökbe, nehezebbé kell tenniük az ártalmas tartalmak terjesztését, és gyors bejelentési és eltávolítási folyamatokat kell működtetniük. Ausztrália tervezett „digitális gondossági kötelezettsége” ebbe az irányba mutat, az Egyesült Királysághoz hasonlóan pedig megfontolhatják a nudify-eszközök fejlesztésének és terjesztésének bűncselekménnyé nyilvánítását is.