Nudify alkalmazások átjutnak a szülői felügyeleten az Apple és a Google platformjain
A Tech Transparency Project tesztjei során 135 „nudify” alkalmazást töltöttek le négy, 13 évesnek beállított fiókból.
A kutatás szerint a letöltött alkalmazások közül sok hibás korcsoport-besorolással rendelkezik, így a tinik a szülői felügyelet ellenére is hozzáférhetnek — írja a The Guardian.
Apple és Google szabályzata
Az Apple és a Google hivatalosan tiltják a nemi képeket generáló alkalmazásokat, de a fejlesztők önszabályozására támaszkodnak. A platformok gyakran korcsoport-jelöléssel próbálják korlátozni a tartalmat, miközben a tényleges ellenőrzés a kiadók feladata.
Példák a hibás besorolásra
Egy vizsgált arcfelismerő app, amely egy orális szexet ábrázoló képpel hirdette magát, négy éves korhatárra lett jelölve, míg egy másik, az Image to Video Maker-Vidou AI nevű program kilenc éves korhatárral került a boltba, ám nyíltan mutatott felöltetlen női testet a bemutatóban.
Szülői felügyelet megkerülése
A tesztelt Apple fiókok szülői felügyelettel csak 13-évesnek megfelelő alkalmazásokat engedélyeztek, de a rendszer nem kért szülői jóváhagyást a nudify appok letöltéséhez. Egy 13-éves fiók egyszerűen megerősíthette, hogy 17 éves, és így hozzáférhetett a tiltott tartalomhoz. A Google fiók háromszor blokkolta egy korhatár-korlátozott app letöltését, de a többi nudify alkalmazást szabadon engedélyezte.
Platformok válasza
Az Apple a TTP megkeresése után szigorította a tartalommoderációs irányelveket, kötelezve a fejlesztőket a nemi képek generálásának előzetes megakadályozására és az alkalmazások alapos felülvizsgálatára. A Google közleménye szerint rendszeresen „proaktív lépéseket” tesz a káros tartalommal rendelkező appok eltávolítására, és gyorsan reagál a jelentésekre, beleértve a keresőkifejezések korlátozását is.
Jogszabályi háttér
Az Egyesült Államok több állama már büntetőjogi szankciókat vezetett be az AI-generált gyermek szexuális visszaélés anyagainak birtoklása ellen, de a nudify alkalmazások továbbra is elérhetők. A Tech Transparency Project jelentése szerint a 135 alkalmazás közül 24-et egy Apple fiók a szülői felügyelet alatt is letöltött.