Subtilis AI-képek lepik el az X-et, nehezebb felismerni őket

Az X platformon egy új, megtévesztő jelenség terjed, amit a 404 Media újságírója, Emanuel Maiberg „subtlefake”-nek nevezett el. Ezek a képek nem nyilvánvaló deepfake-ek, hanem enyhén manipulált, AI által generált tartalom, amelyek sokkal meggyőzőbbek.

A technológia és a felhasználók kifinomultsága

A technológia exponenciálisan fejlődött 2017 óta, amikor a deepfake-ek először megjelentek. Akkoriban sokkolóan realisztikusnak tűntek, de sosem gondoltuk, hogy a látottak valóban megtörténtek. A deepfake-ek elsősorban nők zaklatására és megalázására szolgáltak. A subtlefake-ek azonban mások: nem nyilvánvalóan sértőek, de sokkal inkább képesek becsapni az embereket. Ez arra utal, hogy nem csak a technológia fejlődik, hanem a rosszindulatú felhasználók is egyre kifinomultabbak.

Esztétikai manipulációk és elterjesztés

Ezek a képek gyakran csak enyhén módosított valós fotók, amelyeken híres színésznők ruháját teszik kihívóbbá, vagy testrészeiket nagyobbítják fel. Más esetekben teljesen AI által generált, edzés utáni szelfik jelennek meg. Egyik ilyen esetben Xochitl Gomez színésznő fotóját manipulálták úgy, mintha egy parkolóban lenne, és egyik képen úgy tűnik, mintha hajolna, a másikon pedig a fenekét érintené. Más képeken a vörös szőnyegen készült fotóit alakították át, mintha a kamera felé fordulna és kikötné a nyelvét.

Ezek a képek nem csupán fotorealisztikusak, de hiányoznak belőlük azok a kontextuális elemek, amelyek alapján eddig fel lehetett ismerni a deepfake-eket. Emanuel Maiberg, aki maga is AI-képek felismerésével foglalkozik, elmondta, hogy az X-en görgetve nem tudta volna megmondani, hogy ezek AI által generáltak. A subtlefake-eket szinte mindig ellenőrzött, engagement farming fiókok teszik közzé, amelyek a posztok elérései után kapnak fizetést.

A jelenség azért is aggasztó, mert sokkal könnyebb ilyen képeket előállítani. Bár léteznek olyan szolgáltatások, amelyek AI-generált, nem beleegyezéssel készült nőképét állítanak elő, ezek gyakran bonyolultak vagy fizetősek. A mainstream AI-generátoroknál is lehet manipulálni a rendszert, de ez általában erőfeszítést igényel. Azonban ha a generált képek nem tartalmaznak meztelenséget vagy szexuális aktust, könnyebb lehet a korlátokat megkerülni.

Hany Farid, képforenzikus szakértő szerint a nagy közösségi platformok nehezen birkóznak meg a problémával. „Ez az első alkalom, hogy azt mondják: ’Ó, ez tényleg rossz.’ És szerintem ez azért van, mert a hamisítványok volumene és kifinomultsága példátlan” — nyilatkozta Farid. A deepfake-ek elsődleges célpontjai továbbra is a nők, de a technológia más rosszindulatú felhasználásai is egyre nehezebben kezelhetők az X platformon.