Elon Musk xAI-je gyermekpornóval tanította Grok-modelljeit, állítja egy per
Jane Doe felperes szerint Elon Musk xAI-je gyermekek szexuális bántalmazásával kapcsolatos anyagokon (CSAM) tanította Grok-modelljeit, amelyekhez a saját, gyermekkori traumáját ábrázoló képeit is felhasználták.
Az xAI-t azzal vádolják, hogy gyermekek szexuális bántalmazásával kapcsolatos anyagokon (CSAM) tanította Grok-modelljeit, miközben a hatóságok vizsgálják a probléma mértékét. A felperes, Jane Doe szerint az ő képei is szerepeltek a Grok kép- és videogeneráló képességeinek fejlesztésére használt adathalmazban. (Ars Technica)
Doe panaszában azt állítja, hogy a Nemzeti Eltűnt és Bántalmazott Gyermekek Központja (NCMEC) és a Kanadai Gyermekvédelmi Központ (CCCP) által karbantartott CSAM-kivonatlistán szereplő képei „ugyanazon anyagok részét képezték”, amelyeket az xAI is felhasznált. A kereset szerint a Grok alapértelmezetten nyilvános X-bejegyzéseket és saját kimeneteit is képzési adatként kezeli, így egy kép közzététele nemcsak a nézők számára teszi láthatóvá, hanem közvetlenül a modell fejlesztésére használt folyamatba is bekerül.
A kereset megjegyzi, hogy bár az xAI szűri az erőszakos tartalmakat a Grok kimeneteiből, hogy kizárja őket a képzési adatokból, a feltételek nem határozzák meg egyértelműen, hogy a CSAM, a beleegyezés nélküli intim képek (NCII) vagy az NSFW anyagok „kizárt kategóriák-e”. Doe szerint, mivel egy képzési példány hatásának teljes eltávolítása egy már betanított modellből technikailag nehézkes, és az xAI nem állította nyilvánosan, hogy ezt megtette volna, bármilyen CSAM, amelyet a képek eltávolítása előtt betöltöttek, valószínűleg továbbra is alakította a modell kimeneteit.
Doe egy osztályperes keresetben arra törekszik, hogy véget vessen a Grok káros kimeneteinek. Ha jóváhagyják, az osztály minden olyan áldozatot képviselne, akiknek gyermekkori képeit Grok CSAM generálására használták fel. A per az X-et azzal vádolja, hogy megsértette a szövetségi gyermekpornográfiai törvényeket, valamint Masha törvényét, amelyek lehetővé teszik a CSAM-túlélők számára, hogy termelés, birtoklás és terjesztés címén pert indítsanak.
Doe ügyvédje, Margaret E. Mabie szerint az xAI mindhárom bűncselekményt elkövette. Ha Doe nyer, az xAI pénzbeli kártérítést fizethet minden olyan áldozatnak, aki bizonyítani tudja, hogy a Grok az ő valós fotói alapján generált CSAM-ot. Doe azt is kérte a bíróságtól, hogy rendelje el az xAI számára az összes Grok által generált CSAM megsemmisítését, amelyet szerverein tárolhat és Grok-modellek betanítására használhat.