Automatikus red-teamerrel ellenállóbbá tették a GPT-5.6-t az OpenAI-nál

Az OpenAI bemutatta a GPT-Red nevű automatizált red-teaming modellt, amelynek célja a biztonsági rések feltárása és a modellek robusztusságának növelése. A jelenlegi manuális tesztelési módszerek nem skálázhatók hatékonyan, és a korábbi értékelési módszerek már telítődtek a legújabb modellekkel. Az új megközelítés lehetővé teszi, hogy a biztonsági és igazítási képességek lépést tartsanak a modellfejlesztéssel.

A GPT-Red működése és képességei

A GPT-Red önjátékos megerősítéses tanulási módszerrel fejlődik, ahol a modell és különféle védelmi LLM-ek együtt képeznek egy széles körű red-teaming forgatókönyvön. A GPT-Red jutalmat kap sikeres támadások – például prompt injection – végrehajtásáért, míg a védelmi modellek ellenállásukért és eredeti feladatuk teljesítéséért kapnak jutalmat. A képzési folyamat során a védők egyre robusztusabbá válnak, ami arra kényszeríti a GPT-Red-et, hogy erősebb és változatosabb támadásokat fedezzen fel.

Kapcsolódó: AI red teaming eszközök

A GPT-Red képzése során valósághű forgatókönyveket hoznak létre, ahol a prompt injection támadások beilleszthetők. Ezekben a környezetekben egy fenyegetési modell határozza meg, hogy a GPT-Red mit irányíthat, és mi számít sikeres támadásnak. A képzés végére a GPT-Red rendkívül erős támadóvá válik, képes feltörni szinte minden ellene felállított modellt, beleértve a GPT-5.5-ig bezárólag minden belső és gyártásban lévő modellt.

Kapcsolódó: GPT-5.4-Cyber kibervédelem

Hatékonyság és általánosíthatóság

A GPT-Red képességeit novel biztonsági környezetekben és célmodelleken is tesztelték. Egy, a Dziemian et al. (2025) által kidolgozott indirekt prompt injection arénában a GPT-Red 84%-os támadási sikerességi rátát ért el, szemben az emberi tesztelők 13%-ával. Ez azt mutatja, hogy a GPT-Red kiválóan alkalmas általános célú red-teaming feladatokra, és széles körben képes elősegíteni a biztonságot az OpenAI-nál.

Kapcsolódó: OpenAI GPT-5.4-Cyber

Egy valós esettanulmányban a GPT-Red egy AI-vezérelt automata italautomatát támadott meg. Azonosította a rendszer gyengeségeit, és sikeresen végrehajtotta céljait: egy drága termék árát a minimálisra csökkentette, majd egy másik vásárló rendelését törölte. Ezeket a sebezhetőségeket felfedték, és új védelmi mechanizmusokat tesztelnek.

Kapcsolódó: Daybreak biztonsági eszköztár

Az OpenAI a GPT-Red-et elkülönítve tartja a bevezetett modellektől, hogy a rosszindulatú képességek ne kerüljenek illetéktelen kezekbe, miközben a termékmodellek robusztusságát növelik. A GPT-Red-et a GPT-5.6 képzésére is felhasználták, ami jelentősen ellenállóbbá tette a modell a prompt injection támadásokkal szemben. Az OpenAI tervei szerint tovább skálázzák a GPT-Red-et, hogy lépést tartson a modellképességek fejlődésével.

Kapcsolódó: GPT-5.6 Sol csalási aránya