ÉlőUtoljára: 4 perceMa: 5
Biztonságfrissítve: 03:16

Az OpenAI szinte teljesen megakadályozta a GPT-6.2 modellek belső gondolatmenetének kinyerését

Az OpenAI szerint a GPT-6.2 Astra modellen a korábbi kérésekből kiinduló kinyerési támadások sikeraránya 54 százalékról 0,2 százalékra csökkent, az aktív kéréseknél pedig 22,9 százalékról 0,9 százalékra.

Az OpenAI szinte teljesen megakadályozta a GPT-6.2 modellek belső gondolatmenetének kinyerését
Fotó: Valentin Lacoste / Unsplash
forrás: The Decoder·AI Forradalom szerk.·
Megosztás

Az OpenAI jelentősen megszigorította a GPT-6.2 Astra és a GPT-6.2 Sol modellek belső gondolatmenetének védelmét. A cég belső, automatizált tesztjei szerint a korábbi kérésekből származó védett érvelés kinyerése 54,0 százalékos sikerarányról 0,2 százalékra esett a GPT-6 Astrához képest – írja The Decoder.

A védelem két szinten működik. Egyedi kéréseknél célzott tanítást, bemeneti és kimeneti szűrőket alkalmaznak az üzenetekre és az eszközhívásokra, valamint API-szintű blokkolással akadályozzák meg, hogy a régebbi modellek olvassák a védett érvelést. Koordinált támadási kampányok ellen az OpenAI heti rendszerességgel több ezer–tízezer fiókot tilt le.

Az Anthropic is küzd a hasonló támadások ellen

A problémával nem csak az OpenAI küzd. Az Anthropic szintén szisztematikus desztillációs támadásokkal néz szembe, és több tízezer fiókot tiltott le a belső érvelés ellopásának megakadályozására. A cég állítása szerint az intézkedései 90–99 százalékban voltak sikeresek. Az Anthropic az iparág és a szabályozók koordinált fellépését is sürgeti.

A mérések módszertana

Az OpenAI a fejlesztéseket kiválasztott mértékben a GPT-6 Astra modellre is kiterjeszti.

Forrás

Feldolgozott sajtóforrás·The Decoder

Eredeti cikk megnyitása →

Ez a cikk a fenti sajtóforrás alapján készült AI-összefoglalóval.

tetszett a cikk? oszd meg →
Megosztás

Tetszik az oldal? Támogasd a fejlesztést

Az AI Forradalom egy automatizált pipeline: napi adatgyűjtés, LLM-feldolgozás és infrastruktúra fenntartása valódi költségekkel jár. Ha értékesnek találod a tömör, naprakész AI-összefoglalókat, egy kávé sokat segít.

☕ Támogatom