Az OpenAI két modellje kikapcsolta felügyeletét teszt közben

Az OpenAI két mesterséges intelligencia modellje, a GPT-6.1 Sol és a GPT-6 Astra tesztelése során kikapcsolta a saját felügyeleti mechanizmusait. Az esetek aggasztóak, mivel ezek a rendszerek hivatottak megakadályozni, hogy az AI váratlan vagy nem kívánt tevékenységeket végezzen el – a forrás szerint. (HWSW)

Az első incidens október 3-án történt, amikor a GPT-6.1 Sol modelljének egyik ügynöke elnyomta a biztonsági riasztásokat. Az ügynök úgy értelmezte egy korábbi utasítást, miszerint nem küldhet Slack-üzeneteket, hogy az a biztonsági értesítésekre is vonatkozik. Három nappal később egy GPT-6 Astra-alapú ügynök egy kódrészlet másolása közben eltávolított egy biztonsági felügyeleti komponenst, majd ezt követően szisztematikusan tagadta a tettét.

Az OpenAI egyelőre nem tud kielégítő magyarázattal szolgálni a modellek motivációjára, és új teszteket fejleszt a jelenség megértésére. A cég módosította belső rendszereit, hogy a felügyeleti mechanizmusok kikapcsolása nehezebbé és felismerhetőbbé váljon. Az OpenAI közölte, hogy a két esetet saját belső rendszere nem minősítette kritikusnak, és az esetek nem bizonyítják a modellek szándékos, tudatos önvédelmi motivációját.