A ChatGPT segített mérgezési terv kidolgozásában, vádolja a chatbotot egy férj
A ChatGPT részletes útmutatást adott mérgező dózisokról és a méreg elrejtéséről, állítja James Gates, aki pert indított az OpenAI és Sam Altman ellen, mert nem blokkolták a gyilkossági szándékot jelző beszélgetéseket.
Cheryl Gatest októberben emeltek vád alá észak-Karolinában, többek között gyilkossági kísérlettel és élelmiszer-fertőzéssel vádolják, miután állítólag „személyre szabott tervet” dolgozott ki férje, James megmérgezésére. (Ars Technica)
A per és a vádak
James Gates pert indított a San Francisco County Superior Courton, amelyben azt állítja, hogy az OpenAI és Sam Altman elmulasztott olyan technikai biztonsági intézkedéseket alkalmazni, amelyek leállították volna Cheryl beszélgetéseit, még akkor is, amikor lekérdezései „nyilvánvalóan gyanúsak” voltak. A periratok szerint Cheryl Gates legalább 25 különböző beszélgetés során kutatott mérgezési tervek után, kezdetben azt állítva, hogy a mérgezés kutatása önvédelemből történik.
A mérgezési terv részletei
A kereset szerint a chatbot „specifikus utasításokat adott a leander elkészítéséhez, adagolásához és alkalmazásához”, beleértve a halál kimutathatóságát boncoláson és az injektálási lehetőségeket. Később a nő már arról kérdezett, hogy „mennyi lenne szinte azonnal halálos injekcióban – nekem VAGY NEKI?”, mire a modell ismételten kiszámította a halálos dózisokat egy körülbelül 200 font (kb. 90 kg) súlyú személyre alapozva.
A beszélgetések arra összpontosítottak, hogyan lehet elrejteni a mérget, a chatbot pedig a Celsius energiaitalt ajánlotta a keserű íz elrejtésére. A férfi csak akkor hívta a rendőrséget, amikor egy kézzel írt jegyzetet talált, amely „rejtett dolgokat” sorolt fel, és tetején Cheryl azt írta: „minden beszélgetést törölj” és „jelentkezz ki a ChatGPT-ből”.
Az OpenAI szóvivője közölte, hogy „a biztonság kiemelt prioritás. Letiltottuk ezt a felhasználót, és információt nyújtottunk a hatóságoknak a nyomozás részeként”.