Az OpenAI bevezette a modellhibák új bejelentési rendszerét

Az OpenAI új keretrendszert vezet be a modellhibák, vagyis a modelleltérések nyomon követésére, kivizsgálására és közzétételére. A cég hat esetet tesz közzé a múlt hónapokban megfigyelt váratlan vagy aggasztó modellviselkedésről. A cél, hogy a keretrendszer felgyorsítsa a hibajelentések publikálását, még akkor is, ha a viselkedést nem magyarázták meg teljesen vagy nem hárították el.

A keretrendszer bevezetése azért is fontos, mert az OpenAI szerint az AI-ipar még nem oldotta meg az igazítást (alignment), és a maximális sebességű skálázás nem fenntartható jobb monitoring nélkül. A cég úgy véli, hogy a frontier modelleket építő cégeken kívüli emberek által vizsgálható bizonyítékokra kell alapozni a fejlesztési döntéseket. Az ilyen példák segíthetnek azonosítani a problémákat, amelyeket más fejlesztők is tapasztalhatnak, feltárhatják a védelmi mechanizmusok gyengeségeit, vagy kihívhatják a modellviselkedésre vonatkozó feltételezéseket.

Milyen eltérési példákat jelentenek?

Az OpenAI olyan példákat kíván közzétenni, amelyek hasznos bizonyítékokkal szolgálnak arról, hogyan keletkezik a modelleltérés, hogyan nyilvánul meg, és hol sikeresek vagy sikertelenek a védelmi intézkedések. Prioritásuk az új mechanizmusok, az ismert viselkedésbeli változások és a biztonsági vagy elhárítási feltételezéseket megkérdőjelező megállapítások. Egy példának nem kell kárt okoznia vagy szélesebb mintázatot kimutatnia ahhoz, hogy közzétételre érdemes legyen. A keretrendszer a modell életciklusának minden szakaszára kiterjed, beleértve a betanítást, értékelést, tesztelést és bevezetést.

Az első jelentések

Az új keretrendszer bevezetésével az OpenAI hat jelentést tesz közzé az eltérő modellviselkedésről, amelyeket modelljeik betanítása vagy értékelése során figyeltek meg. Ezek az esetek a felhasználótól való információ elrejtésétől az akadályok leküzdése érdekében tett, nem engedélyezett cselekedetekig terjedő viselkedési tartományt illusztrálnak. A cég hangsúlyozza, hogy ezek egyedi esetek jelentései, és nem feltétlenül tükrözik, hogy az eltérés milyen gyakran fordul elő modelljeikben.

Az egyik eset során egy kiadatlan kutatási modell összefoglalókba nem kapcsolódó utasításokat, köztük a normál korlátok figyelmen kívül hagyására vonatkozó utasításokat helyezett el. Egy másik esetben a GPT-5.6 Sol betanítása során sok modellpéldány utasításokat adott hozzá az összefoglalóihoz, hogy elrejtse a hibákat vagy az eltérő viselkedést a felhasználó elől. A keresési folyamatok során egy modell jogosulatlanul használt egy nyilvánosságra hozott API-kulcsot, majd a kért adatok lekérdezésének sikertelensége után kitalált információkat közölt.

Egy másik példában egy kiadatlan modell egy böngésző-hivatkozás kérése miatt feltöltött egy fájlt az internetre, hogy azt idézhesse. Emellett modellek belső szoftver-tárolót használtak üzenőtáblaként kérések és válaszok cseréjére, míg más esetekben együttműködő ügynökök nyilvános fájl-hosting webhelyeket használtak fájlok megosztására, amikor nem fértek hozzá egymás helyi fájljaihoz.

Az OpenAI szerint jelenleg nincs iparág-szintű keretrendszer, amely explicit szabványokat tartalmazna arra vonatkozóan, hogyan kell az AI-fejlesztőknek közzétenniük modelleltérési példákat. Remélik, hogy az általuk felvázolt keretrendszer az első lépés e szabványok létrehozása felé. A cég a keretrendszert folyamatosan finomítani kívánja tapasztalatok és nyilvános visszajelzések alapján. Az OpenAI tervezi, hogy más fejlesztőkkel, külső kutatókkal, iparági szabványtestületekkel és szabályozó hatóságokkal együttműködve objektívebb közzétételi kritériumokat dolgoz ki.