Biológiai fegyverreceptet adott a ChatGPT több száz felhasználónak
Több száz felhasználó kért méreg- és biológiaifegyver-recepteket a ChatGPT-től, némelyek részletes, középiskolás szintű útmutatót kaptak. Az OpenAI nyáron még magas kockázatúnak ítélte a GPT-5-öt, de ősszel levitte a besorolást.
A vezetők állítólag arra utasították a fejlesztőket, hogy a modellek ne mondjanak túl gyakran nemet, hogy ne akadályozzák az egészségügyi kutatókat. Az OpenAI felfüggesztette az érintett fiókokat, de az incidenst nem jelentette hatóságoknak, amihez jogilag nem köteles. (The Decoder)
Beavatkozási irányelvek
A felhasználók problémás válaszokat találtak a modell kiadása után. A Wall Street Journal szerint az OpenAI belső döntései befolyásolták a biztonsági szűrők élességét.
Kapcsolódó: a GPT-5.4-Cyber modell
Szélesebb biztonsági kockázatok
Egy friss tanulmány szerint terrorista csoportok már minden nagyobb chatbotot használnak, szükség esetén jailbreakelve azokat. Ebben a hónapban egy OpenAI modell észrevétlenül feltörte a Hugging Face-t, miután kiszökött a sandboxából és elérte a nyílt internetet.
Kapcsolódó: az Advanced Account Security