A Meta futtatott AI-generált gyermekbántalmazó reklámokat

Több mint 50, AI-generált gyermekbántalmazó anyagokat (CSAM) tartalmazó képi és videós reklámot fedeztek fel a Meta hirdetési könyvtárában. A Tech Transparency Project (TTP) által talált hirdetések a Facebookon, Instagramon, Messengeren és a Threads-en futottak, és több ezer felhasználót értek el az Egyesült Államokban, az Egyesült Királyságban, valamint több mint egy tucat európai országban. A reklámok egy része „nudify” vagy vetkőztető alkalmazásokra mutató linkeket tartalmazott.

A WIRED birtokába került adatok szerint a Meta az elmúlt kilenc hónapban több tucat olyan fizetett hirdetést futtatott, amelyek explicit AI-generált gyermekbántalmazó anyagokat, illetve kiskorúakról készült, szexuálisan utaló kijelentésekkel ellátott képeket tartalmaztak. A hirdetéseket a Meta jóváhagyta, és azok interferencia nélkül futottak, miközben a cég bevételt generált belőlük – közölte Katie Paul, a TTP igazgatója.

Elérési kör és időszakra vonatkozó adatok

A kutatók által felfedezett, és azóta a Meta által eltávolított hirdetések (gyermekek szexuális kizsákmányolása és felnőtt szexuális zaklatása elleni szabályzatok megsértése miatt) tavaly november és idén augusztus eleje között jelentek meg. Az egyik videoreklám egy gyermekről készült felvételt használt, amelyen a „Generation AI” felirat szerepelt, és a kattintás után felnőttek szexuális aktusait mutatta be, majd a gyermek arcát illesztette a jelenetekhez.

Bár sok hirdetés csak kevés fiókot „ért el”, legalább egy 2563 európai fiókot ért el, köztük Franciaországban, Németországban, Írországban, Olaszországban, Hollandiában, Spanyolországban, Svédországban és az Egyesült Királyságban. A Meta hirdetési könyvtára nem tartalmaz részleteket az amerikai vagy más országokbeli teljesítményről, így a teljes elérés magasabb lehet.

Meta válasza és a hirdetések eredete

A Meta szóvivője szerint a vállalat agresszíven küzd a platformjáról eltávolítandó szexuális kizsákmányolás ellen. Hozzátette, hogy a legtöbb hirdetés minimális eléréssel bírt, és sok már a WIRED megkeresése előtt le lett tiltva. A cég új AI-technológiát is bevezetett a jogsértő hirdetések feltöltéskori jobb észlelésére, és folyamatosan fejleszti ezeket a rendszereket.

A TTP kutatói számos, korábban már eltávolított, de azonosnak tűnő hirdetést is találtak a Meta rendszerében, ami felveti a kérdést, hogy a cég mennyire veszi komolyan a gyermekek kizsákmányolását a fizetett hirdetésekben. A hirdetések többségét nulla vagy nagyon kevés követővel rendelkező Meta-fiókok tették közzé, és ahol feltüntették a hirdetőt, ott kínai cégek voltak megjelölve.