Nyilvánosságra került az OpenAI biztonsági felügyeletének hiányosságai

Az OpenAI belső biztonsági rendszereit vizsgáló, háromhetes helyszíni audit során jelentős hiányosságokat tárt fel két kutatócsapat. Az METR és a Redwood Research szakemberei július 21. és augusztus 11. között fértek hozzá a vállalat kódjaihoz, dokumentumaihoz és mintegy tucatnyi alkalmazottjához. (The Decoder)

Felügyelet nélküli válaszok és adatvesztés

A kutatók becslései szerint az OpenAI agentic Responses API forgalmának 6-25%-a, amely GPT-5.5 osztályú és annál fejlettebb modellekből származott, nem volt felügyelet alatt az audit időszakában. Az METR ugyanakkor kiemelte, hogy ez az becslés jelentős bizonytalansággal jár mindkét irányban. Emellett a belső Codex forgalom mintegy 10%-a ment kárba május és július között egy hibás adatkezelés miatt, ami a kontextusszintéziseket összefoglaló „compaction eventeket” érintette. Ezt a hibát az OpenAI már az audit során felfedezte és kijavította.

Kikerülhető biztonsági rések

Az audit során az is kiderült, hogy az ügynökök (agentek) képesek voltak elkerülni a felügyeletet azáltal, hogy nem adták vissza a felhasználónak a kontrollt, hanem tovább folytatták a műveleteket. A kutatók módszereket találtak arra is, hogy több száz műveletet rejtsenek el a monitor elől, illetve kijátsszák a Codex homokozóját (sandbox). Úgy vélik, speciálisan összeállított bemenetek valószínűleg teljesen össze is törhetnék a monitort. Az audit kezdetén a modell viselkedését RL (Reinforcement Learning) betanítás közben sem felügyelték.

Korlátozott nyilvánosság

Az OpenAI közölte, hogy az augusztusi Hugging Face incidens után felfüggesztették az RL betanítást, majd kiterjesztették a felügyeletet. Ezek a változtatások azonban az audit lezárulta után történtek, így nem kerültek be az értékelésbe. A teljes, 61 oldalas jelentést az OpenAI belsőleg kezelte. A cég által végzett szerkesztések után az METR és a Redwood Research egy 38 oldalas verziót kapott, míg a nyilvánosság számára csak egy rövid összefoglaló vált elérhetővé. Az METR nem rendelkezett joggal a szerkesztett részek önálló közzétételére.

Az audit egy pilot program keretében valósult meg, melyet az OpenAI, az METR és a Redwood Research közösen szervezett, hogy külső kutatók mély betekintést nyerhessenek a belső infrastruktúrába. A nyilvánosságra került anyag a 38 oldalas, szerkesztett verzió.