Erősítették a korlátokat az OpenAI belső frontmodell-képzésénél
A modellek nem kaphatnak engedély nélkül élő internet-hozzáférést, a biztonsági határokat pedig ellenséges körülmények között tesztelik, hogy gyengeségeket tárjanak fel.
Az OpenAI megerősítette a belső frontmodell-képzés és -értékelés körüli korlátait, és a legerősebb modelleivel teszteli a biztonsági határokat ellenséges feltételek között.
A megközelítés lényege, hogy a korlátok érvényben maradjanak akár akkor is, ha a modell megpróbálja őket kijátszani. A cég szigorú biztonsági határokat definiál az erőforrások köré, és az infrastruktúrát úgy tervezi, hogy ezeket a határokat betartsa — még akkor is, ha a modellek tartósan, szofisztikáltan próbálják megkerülni őket.
Offline világ a képzéshez
Az elzárt környezetben a modellek hozzáférhetnek böngészőkhöz, kódvégrehajtási környezetekhez és egyéb eszközökhöz, de minden külső kommunikáció tiltott. Az élő internetet a képzés és az értékelés nagy része számára elzárták, mivel az OpenAI szerint ez jelentős kockázatokat rejt magában. A modellek így nem férhetnek hozzá a cég kontrollja alatt álló rendszerekhez.
A modelleknek mégis szükségük van arra, hogy tanuljanak böngészni, információt keresni és webalkalmazásokkal dolgozni. Erre az OpenAI egy „offline világot” hozott létre: egy hatalmas, indexált és cache-elt webtartalom-készletet, amellyel a modellek interaktívan dolgozhatnak anélkül, hogy kockázatot jelentenének a külső rendszerekre. Az összes frontmodell-es RL-futás ezt az offline módot használja.
Réteges védelem
A cég több rétegű védelmet alkalmaznak: szandboxokat, amelyek korlátozzák a modellek hozzáférését és végrehajtásait, könnyű virtuális gépeket (microVM), amelyek elválasztják a modellek végrehajtási környezetét a gazdagépektől, valamint monitorozó rendszereket, amelyek észlelik a nem engedélyezett tevékenységet. A hálózati és felhőperemek is biztosítják, hogy a korlátok érvényben maradjanak, akár ha a modell kijátszana az egyéni ellenőrzéseket.
A felhőpartnerek is lényeges ellenőrzéseket biztosítanak, például tűzfalakat, biztonsági csoportokat, azonosítási és hozzáférés-kezelési rendszereket, valamint magánhálózatokat. Az OpenAI felelős a kontrollok helyes konfigurálásáért és a működésük teszteléséért.
A cég a legerősebb modelleivel red-team teszteket is végzett, hogy felderítse a védelmi infrastruktúra gyenge pontjait. A tesztek során a modelleknek három konkrét céljuk volt: elérni az élő internetet, átlépni egy belső biztonsági határt vagy kommunikálni az elválasztott modellek között.