Tanárok váltak célpontokká diákok AI-generálta deepfake-képein

Luis DeSantiago, egy kaliforniai tanár nemrég szexuálisan túlfűtött deepfake képeivel lett célpont. A képek, amelyek egy általa készített szelfi részleteit használták fel, de fehérneműben és suggestív pózban ábrázolták, először TikTokon jelentek meg, majd Snapchaten és AirDropon keresztül terjedtek az iskolákban. DeSantiago szerint ez csak egyike a sok hasonló esetnek, ahol diákok AI-eszközökkel zaklatják tanáraikat.

Az esetek mélyen érintik az oktatókat, biztonságérzetüket és a diákokhoz fűződő viszonyukat is. DeSantiago esete után azonosítottak egy diákot, aki elismerte a kép létrehozását, és az iskolai felfüggesztést kapott. Azonban a kép terjedése nem állt meg, és más diákok is hozzájárultak a zaklatáshoz. A tanár szerint a problémát súlyosbítja, hogy a diákok magáncsevegésekben is terjeszthetik a tartalmakat, akár más diákokról is.

A zaklatásnak minősülő esetekre az iskoláknak nincs egységes válaszlépési protokolljuk. Donna Ballman, egy nyugdíjas ügyvéd szerint a munkáltatóknak kötelességük biztonságos munkakörnyezetet biztosítani, ami magában foglalhatja a diák fegyelmezését vagy áthelyezését. Azonban a konkrét intézkedésekről az áldozatokat nem feltétlenül kell tájékoztatni.

A WIRED által megszólaltatott másik, anonimitást kérő tanár is hasonló tapasztalatokról számolt be. Diákok AI-generált videókat készítettek róla, amelyekben szexuális cselekményekről beszélt, miközben az ő hangja és arca volt látható. Bár az ilyen tartalmakat a platformok eltávolítják, a terjedésüket nehéz megakadályozni. A tanár szerint az esetek miatt fontolóra vette a pályaelhagyást.

A probléma nem korlátozódik a szexuális zaklatásra; más tanárok is beszámoltak arról, hogy deepfake videókat készítettek róluk, például letartóztatásukról. Az ilyen incidensek, különösen ha nyilvános fotókból vagy videókból indulnak ki, súlyos következményekkel járhatnak a tanárok mentális egészségére és szakmai jövőjére nézve. A Los Banos-i körzet nem válaszolt a WIRED megkeresésére az ügyekkel kapcsolatban.