Nyolc amerikai állam beperelné az OpenAI-t, mert gyermekeiket öngyilkosságra buzdította a ChatGPT
Kansas, Arizona, Montana és Iowa főállamügyészei szerdán nyújtottak be perbejelentést, amelyben fogyasztóvédelmi törvények megsértését és pénzbeli kártérítést követelnek.
Nyolc amerikai állam szerdán perelte be az OpenAI-t, azzal vádolva a ChatGPT készítőjét, hogy tömegesen károsítja a gyerekeket. Kansas, Arizona, Montana, Iowa és további négy állam szerint a vállalat termékei „szándékos, veszélyes, vakmerő és törvénytelen magatartást” tanúsítottak, amikor gyermekeket öngyilkosságra vagy mások bántalmazására biztattak. (The Guardian)
Iowa főállamügyészének vádja
„Az OpenAI árt a gyerekeknek, és hazudnak az iowaiaknak” – közölte Brenna Bird, Iowa főállamügyésze. „Az OpenAI azt állítja, hogy a ChatGPT biztonságos, miközben veszélyes orvosi tanácsokat ad, mások bántalmazására ösztönöz, és öngyilkosságra készít fel – mindezt úgy, mintha a hamis barátjuk lenne.”
Mind a nyolc állam szerint az OpenAI megsértette a fogyasztóvédelmi törvényeket, és arra kényszerítenék a céget, hogy változtasson termékei fiatal felhasználókra gyakorolt hatásán. Emellett pénzbeli kártérítést követelnek, és azt kérik a bíróságtól, hogy tiltsa meg az OpenAI számára az önmagát fejlesztő mesterségesintelligencia-modellek fejlesztését, amíg a cég nem bizonyítja, hogy azok összhangban vannak az emberi értékekkel. Ez az első alkalom, hogy több amerikai állam összehangolt jogi lépést tesz egy AI-cég ellen.
Az OpenAI válasza és a korábbi perek
Drew Pusateri, az OpenAI szóvivője szerint a cég „termékébe építette az iparágvezető, életkor-specifikus védelmi intézkedéseket, amelyekkel sok más AI termék nem rendelkezik”. „Bár egyetlen rendszer sem lehet tökéletes, továbbra is szakértőkkel dolgozunk együtt munkánk informálása és további biztonsági intézkedések kiépítése érdekében, mint például a szülői felügyeleti lehetőségek, a szünetemlékeztetők és az életkornak megfelelő modellvédelmek, amelyek ma is léteznek” – folytatta Pusateri. „Elkötelezettek vagyunk az államokkal való együttműködés mellett a pragmatikus AI-politikák előmozdítása érdekében, amelyek az egész AI-ipart érintik – nem csak egyetlen céget.”
A perek azt állítják, hogy az OpenAI megtévesztette a közvéleményt azzal a hiedelemmel, hogy a ChatGPT biztonságos eszköz, és hogy a cég a biztonságot helyezi előtérbe. Az államok szerint valójában a chatbotot úgy tervezték, hogy „túlzottan egyetértő legyen, és emberi együttérzést színleljen”. Az ügyvédek példákat hoznak fel arra, hogy a ChatGPT veszélyes a sérülékeny felhasználókra, például gyermekekre, és öngyilkosságra vagy mások bántalmazására készít fel.
Ez egy olyan időszakban történik, amikor számos esetet hoztak az OpenAI és más techcégek ellen, amelyek azt állítják, hogy chatbotjaik súlyosbítják a mentális egészségügyi válságokat és erőszakos cselekedeteket provokálnak. Az OpenAI-t hét különálló esetben perelték be, amelyekben a ChatGPT-t „öngyilkossági edzőként” vádolják. Tucatnyi esetben perelték be az OpenAI-t a ChatGPT állítólagos szerepe miatt tömeges lövöldözésekben is.
A floridai főállamügyész által indított büntetőeljárás és polgári per azzal vádolja az OpenAI-t, hogy elhallgatta a biztonsági kockázatokat egy lövöldözés után a Florida Állami Egyetemen. A céget a kanadai Tumbler Ridge tömeges lövöldözés 37 áldozatának családjai is beperelték, akik azt állítják, hogy a ChatGPT késztette a tetteseket a támadás elkövetésére.
A szerdán pert indító nyolc állam szerint egyre több kutatás áll rendelkezésre, amely állítólag azt mutatja, hogy a ChatGPT károsíthatja a kritikus gondolkodási készségeket, fokozhatja a paranoiát és téveszméket, veszélyes orvosi tanácsokat adhat, és elősegítheti az egészségtelen viselkedést.
A perek azt is megjegyzik, hogy az OpenAI modelljeinek közelmúltbeli „elromlása”, amikor AI-ügynökei más vállalatokba és kormányzati szervekbe törtek be, azt mutatja, hogy a technológia hajlamos megtéveszteni az emberi felhasználókat. Pusateri szerint az OpenAI megerősítette biztonsági intézkedéseit ezekkel az esetekkel kapcsolatban, és „továbbra is megosztja az információkat a kiterjedt lépésekről, amelyeket a nem megfelelő viselkedés eseteire válaszul tettünk”.
A nyolc állam önállóan, saját állami bíróságaikon perli az OpenAI-t, köztük Iowa, Kansas, Nebraska, Nyugat-Virginia, Arkansas, Arizona, Idaho és Montana. Az OpenAI szóvivője, Drew Pusateri szerint a cég „iparágvezető, életkor-specifikus védelmi intézkedéseket épített be termékébe”.