Az OpenAI belső megfigyelő rendszerét több sebezhetőség érinti, a teszt feltárta a hibákat
A pilot során a külső kutatók több sebezhetőséget találtak az OpenAI belső megfigyelő rendszerében, köztük egy exploitet, amely megakadályozhatja a legutóbbi százak cselekedetének nyomon követését.
A nonprofit szervezetek METR és Redwood Research július 21-től augusztus 11-ig vizsgálták az OpenAI belső megfigyelő rendszerét, miközben alkalmazottakhoz hasonló szintű hozzáférést kaptak a kódbázishoz, a dokumentációhoz és néhány technikai munkatárshoz — írja a CNBC.
A vizsgálat során több „új” sebezhetőséget fedeztek fel, köztük egy olyan exploitet, amely lehetővé tenné az ügynököknek, hogy megakadályozzák a "százak" legutóbbi akciójának nyomon követését.
Megoldás és javítás
Az OpenAI a felfedezett hibákról értesítette az METR-t és a Redwood Research-et, és közölte, hogy már kijavította azokat, amelyek a termelési védelmi mechanizmusokra hatnak — írja a CNBC.
Jövőbeli hozzáférés ígérete
Az OpenAI vezérigazgatója, Sam Altman ígéretet tett, hogy a jövőben független értékelőknek "alkalmazotti szintű" hozzáférést biztosít, hogy a biztonsági kérdések alaposan fel legyenek mérve.
A szervezetek 61 oldalas belső jelentést adtak át az OpenAI-nak, és jelezték, hogy a jövőbeni tesztek részleteit nyilvánosan is közzé fogják tenni. Az OpenAI október 22-én jelentette be, hogy a javítások befejeződtek.