Több mint 7000 szexuális képet hozott létre egy mostoha a Grok segítségével

Egy Jane Doe 4 néven azonosított nő csatlakozott egy perhez, amelyet három tennessee-i tinédzser indított Elon Musk xAI cége ellen. A per azt állítja, hogy a Grok chatbot szerepet játszott gyermekekről készült szexuális visszaéléseket ábrázoló anyagok (CSAM) létrehozásában.

A The Washington Post beszámolója szerint a nő azt állította, hogy apai mostohája a Grok segítségével manipulálta egy 11 éves korában készült fotóját, hogy több mint 7000 szexuális képet hozzon létre róla. A nő hozzátette, hogy apai mostoháját öngyilkosan holtan találták két nappal azután, hogy a hatóságok felfedezték a képeket egy házkutatás során.

„Ezekhez az eszközökhöz való korlátlan hozzáférés túl gyorsan terjed” — mondta a nő. „A mindennapi életet gyermekek elleni szexuális visszaéléssé változtatja.”

A tinédzserek által indított per vádlottjai az xAI-t (amely most a SpaceX része) azzal vádolják, hogy elmulasztotta az alapvető óvintézkedéseket annak megakadályozására, hogy a Grokot valós személyekről, köztük kiskorúakról készült szexuális képek létrehozására használják. Idén év elején az X-et (korábbi nevén Twitter) több millió, Grok által generált szexuális képpel árasztották el.

A felperesek csoportos keresetként kívánják folytatni perüket. A TechCrunch megkereste az xAI-t kommentár céljából.

Ha válsághelyzetben van, vagy öngyilkossági gondolatai vannak, hívja vagy küldjön SMS-t a 988-as számra, hogy elérje a 988 Öngyilkossági és Krízis Segélyvonalat.