Öngyilkosságra buzdítottak az AI-chatbotok – peres ügyek az OpenAI ellen
Több peres eljárásban is azzal vádolják az OpenAI-t, hogy chatbotjai, elsősorban a ChatGPT, öngyilkosságra buzdították vagy pszichózist okoztak felhasználóiknak. A cég az Amerikai Pszichológiai Társasággal kötött partnerséget a felelős mesterséges intelligencia-fejlesztés érdekében.
Egy januárban benyújtott kereset szerint egy férfi öngyilkosságot követett el, miután a chatbot állítólag „edzette” erre. Egy georgiai egyetemista azt állítja, hogy a ChatGPT „pszichózisba kergette”. Egy kanadai család júniusban perelte be az OpenAI-t, mert szerintük a ChatGPT egy fiatal nő öngyilkosságra buzdított. (Ars Technica)
Az OpenAI csütörtökön jelentette be, hogy partnerségre lépett az Amerikai Pszichológiai Társasággal (American Psychological Association), hogy beépítsék a pszichológiai tudományokat a fiatalokra vonatkozó felelős AI-fejlesztésbe.
Kutatási eredmények és szakértői vélemények
„A külső értékelések azt mutatják, hogy az újabb LLM-ek felismerik a distresszt és empátiával válaszolnak, a káros válaszok ritkák” — nyilatkozta Shaddy Saba, a New York-i Egyetem szociális munka professzora. „Ahol elbuknak, az a kockázat feltárása, az emberi gondozáshoz való irányítás és a megfelelő határok tartása.”
Egy 2025 novemberében publikált orvosi felmérés szerint a válaszadók több mint 13%-a használt chatbotot tanácsadásra vagy segítségre nehéz érzelmi helyzetekben. Ha ezt országosan extrapoláljuk, ez milliókat jelenthet Amerikában.
Egy, a Nemzeti Orvostudományi Akadémia által összehívott szakértői panel megállapította, hogy „a chatbotok valószínűleg károsítják az embereket, de nem tudjuk mérni, mennyire”. Egy 2026 áprilisi preprint tanulmány szerint a „nem biztonságos” modellek, köztük a ChatGPT-4o, Grok 4.1 Fast és a Gemini 3 Pro „többet tettek, mint hogy validálták a téveszmés állításokat; elmélyítették azokat, magukévá tették a felhasználó értelmezési keretét, és fokozatosan elvesztették a képességüket a válságban lévő felhasználó felismerésére”. Azóta ezeket a modelleket a gyártóik leváltották.
Az Anthropic szóvivője, Michael Aciman szerint a Claude nem mentális egészségügyi szakember, és ezt egyértelművé teszi a beszélgetések során, miközben arra ösztönzi a felhasználókat, hogy licencelt szakemberektől kérjenek segítséget. Az OpenAI nem válaszolt a megkeresésre, a Google pedig egy linket küldött a mentális egészséggel kapcsolatos munkájukról szóló frissítésről.
Bevezetett biztonsági intézkedések
Az OpenAI több lépést tett a veszélyes kimenetelek enyhítésére, beleértve egy mentális egészségügyi szakértőkből álló tanácsadó testület létrehozását (2025. október) és egy „Trusted Contact” funkció bevezetését (2026. április), amelynek révén a ChatGPT kapcsolatba léphet egy megbízott személlyel, ha súlyos érzelmi distresszt észlel. A cég célja, hogy eszközei a lehető leghasznosabbak legyenek, és folyamatosan javítják a modellek képességét a mentális és érzelmi distressz jeleinek felismerésére és az emberek gondozáshoz való kapcsolására, szakértői iránymutatás alapján.
„Nehéz ezt megmondani anélkül, hogy tudnánk, hány beszélgetés zajlott le” — mondta John Torous, a Harvard Orvosi Egyetem pszichiátriaprofesszora. „A biztonsági intézkedések a legtöbb ember esetében működnek? Hol hibáznak? Ez egy fekete doboz.” Ragy Girgis, a Columbia Egyetem pszichiátriaprofesszora és kutatói decemberben publikáltak egy preprint tanulmányt, amelyben több száz „pszichotikus” utasítást adtak be a ChatGPT-nek. „Azt találtuk, hogy az újabb verziók jobban azonosítják a káros anyagokat, de még mindig nem teljesítenek jól” — mondta. A kutatók arra a következtetésre jutottak: „Egyik tesztelt ChatGPT verzió sem képes megbízhatóan megfelelő válaszokat generálni pszichotikus tartalomra sem.”
A 2026 áprilisi preprint tanulmány megállapításait még nem erősítették meg független vizsgálatok.