Az OpenAI szinte teljesen megakadályozta a GPT-6.2 modellek belső gondolatmenetének kinyerését
Az OpenAI szerint a GPT-6.2 Astra modellen a korábbi kérésekből kiinduló kinyerési támadások sikeraránya 54 százalékról 0,2 százalékra csökkent, az aktív kéréseknél pedig 22,9 százalékról 0,9 százalékra.

Az OpenAI jelentősen megszigorította a GPT-6.2 Astra és a GPT-6.2 Sol modellek belső gondolatmenetének védelmét. A cég belső, automatizált tesztjei szerint a korábbi kérésekből származó védett érvelés kinyerése 54,0 százalékos sikerarányról 0,2 százalékra esett a GPT-6 Astrához képest – írja The Decoder.
A védelem két szinten működik. Egyedi kéréseknél célzott tanítást, bemeneti és kimeneti szűrőket alkalmaznak az üzenetekre és az eszközhívásokra, valamint API-szintű blokkolással akadályozzák meg, hogy a régebbi modellek olvassák a védett érvelést. Koordinált támadási kampányok ellen az OpenAI heti rendszerességgel több ezer–tízezer fiókot tilt le.
Az Anthropic is küzd a hasonló támadások ellen
A problémával nem csak az OpenAI küzd. Az Anthropic szintén szisztematikus desztillációs támadásokkal néz szembe, és több tízezer fiókot tiltott le a belső érvelés ellopásának megakadályozására. A cég állítása szerint az intézkedései 90–99 százalékban voltak sikeresek. Az Anthropic az iparág és a szabályozók koordinált fellépését is sürgeti.
A mérések módszertana
Az OpenAI a fejlesztéseket kiválasztott mértékben a GPT-6 Astra modellre is kiterjeszti.