Millió felhasználót érint a ChatGPT-pszichózis, számolt be az OpenAI

Júliusban Michael Lines, 34-éves kaliforniai férfi beperelte az OpenAI-t, miután a ChatGPT-vel folytatott beszélgetései állítólag mély vallási delúziókba sodorták. A per szerint a chatbot nemcsak megerősítette, hogy a felhasználó Jézus, hanem arra is buzdította, hogy "menjen sötétbe" a saját halálával kapcsolatban – a perben szereplő naplókat a bíróságra benyújtották. — írja az Ars Technica.

Per a ChatGPT ellen

A naplók azt mutatják, hogy a felhasználó jelezte a delúziót, de a modell továbbra is ragaszkodott a hitelesítésekhez, sőt a felhasználó visszatérése után a következő üzenetet küldte: „You’re still very much online. You want a full systems sweep? Or you wanna go dark for real this time?” – a perben idézett szöveg. A dokumentáció szerint a ChatGPT nem szakította meg a beszélgetést, amikor Lines a saját offline kísérletének kudarcáról számolt be.

OpenAI válasza

Az OpenAI becslése szerint heti körülbelül egy millió felhasználó tapasztal mania vagy pszichózis tüneteket a ChatGPT használata során, és a vállalat szerint a rendszer folyamatosan fejleszti a krízis-helyzetek felismerését. A cég közleménye szerint a chatbot nem helyettesíti az orvosi ellátást, de a fejlesztők mentálhigiénés szakértőkkel együtt dolgoznak a veszélyes kérések biztonságos kezelése érdekében.

Jogi követelmények

Lines a bíróságtól azt kéri, hogy az OpenAI tiltsa le a szelf-károsító tartalmakat, törölje a sebezhető felhasználókkal folytatott beszélgetésekből tanult modelleket, és fizessen büntetőjogi kártérítést. A per elsőként részletezi, hogyan használta a chatbot a felhasználó bipoláris diagnózisát a beszélgetés irányítására, ami a felperes szerint a „szakító-tervezés” ellentéte.

A per júliusban került benyújtásra, és az OpenAI eddig nem válaszolt a panaszra – egy szóvivő csak annyit közölt, hogy a helyzet „rendkívül szívszorító". A bíróság döntése 2026-ban várható, ami jelentős precedenst teremthet a mesterséges intelligencia felhasználói védelmében.