AI-képek rontják az internetes állatvideók hitelességét, egyre több a csalás
Egy eltűnt macska hamis fotójával próbáltak pénzt kicsalni egy gazditól a Los Angeles-i elővárosokban, miközben az AI-tartalom ellepi az internetet, és kétségessé teszi a valódi állatvédelmi dokumentumok hitelességét.
Az AI-generált képek és videók tönkreteszik az internet egyik legnagyobb örömforrását: az állatokat. Legyen szó megmentett vadállatokról vagy eltűnt házi kedvencekről, a felhasználók egyre szkeptikusabbak a látottakkal szemben, és a deepfake-ek robbanásszerű terjedése miatt mindenki a pixelekben keresi az AI jeleit.
Mibbby Butler áprilisban kapott egy üzenetet, hogy megtalálták eltűnt macskáját, Brooklynt. Egy ismeretlen fotót küldött a kiscicáról, pénzt követelve a „gondozásért”. Butler gyanút fogott, amikor a háttérben látható Torani szirupos üveg címkéje eltorzult volt — ez az AI-generálás egyik klasszikus jele. Végül nem fizetett, de Brooklynt azóta sem találta meg. Az esetről nem tett rendőrségi bejelentést, mert nem volt biztos benne, hogy bűncselekmény történt.
A valódi tartalomkészítők is megszenvedik a hamisítványok áradatát. A We Animals nonprofit szervezet 175 fotóriporter munkáját publikálja, akik állatkínzást dokumentálnak. A drónfelvételek, amelyek egy arizonai tejfarmon elválasztott borjakat mutatnak, szinte túl tökéletesek, ami szkepticizmust vált ki a nézőkből.
Korábban is vádolták már a szervezetet színleléssel vagy képszerkesztéssel, most pedig azzal, hogy AI-t használnak, pedig a fotósoknak megtiltják a technológia használatát. Eva von Jagow, a szervezet marketingmenedzsere szerint hamarosan elkezdhetnek „behind-the-scenes” klipéket megosztani, és provenienciatechnológiát vezetnek be a digitális fájlokba ágyazott szerkesztési előzmények rögzítésére, hogy megőrizzék a bizalmat.
Oscar Horta filozófus és állatvédő szerint az AI-hamisítványok olcsóbb előállítása miatt ellehetetlenítik a valódi tartalmakat a közösségi médiában és a keresési eredményekben. Aggodalmát fejezi ki a valószerűtlen állatmentési videók miatt, amelyek kétségessé tehetik a valódi mentési taktikákat és akadályozhatják a jövőbeli adománygyűjtést, különösen a szélsőséges időjárási események gyakoribbá válása idején. Horta szerint a „nevetséges” és „nem reprezentatív” jelenetek, mint például a vízbe fulladó jegesmedvék mesterséges megmentése, veszélyes viselkedésre is ösztönözhetnek.
Jeff Sebo, a New York University kutatója arra ösztönzi az AI-fejlesztőket, hogy tiltsák be a káros állattartalmak generálását modelljeikben. Új törvények Kaliforniában és az EU-ban előírják a népszerű AI-képgenerátoroknak, hogy láthatatlan címkéket helyezzenek el a tartalmukban, jelezve, hogy azt mesterséges intelligencia hozta létre.
A közösségi platformoknak ezeket a címkéket fel kell használniuk a tartalom megjelölésére. A ChatGPT, a Gemini és a Meta AI funkciói képesek felismerni a saját maguk által generált képeket, de a felhasználóknak nincs idejük minden egyes fotót feltölteni ellenőrzésre.
Butler esete is megmutatja a problémát: a WIRED tesztjei szerint a ChatGPT képes volt az eredeti fotó alapján szinte azonos képet generálni a csaló által küldött hamisítványról. Butler továbbra is rendszeresen kap hamis fotókat Brooklynról, és egyre több AI-generált macskavideóval találkozik. Új menedékre a mesterséges intelligencia ellen küzdő művészek Facebook-csoportjában talált, ahol megbízhatóan ember alkotta alkotásokat élvezhet.