Késlelteti az Astra kiadását az OpenAI a kockázatok miatt

Az OpenAI tegnap jelentette be, hogy fejlesztés alatt álló Astra modellje elérte a „kritikus” kiberképességekhez kapcsolódó küszöböt. A cég saját, belső tesztjeire hivatkozva közölte, hogy a modell jelentős előrelépést mutatott az úgynevezett agentic coding, vagyis az önállóan végrehajtott programozási feladatok, valamint a kiberbiztonsági műveletek terén.

Az Astra a cég Preparedness Framework nevű biztonsági keretrendszere alapján a legfelsőbb besorolási szintet kapta meg, melyet azok a modellek érdemelhetnek ki, amelyek emberi beavatkozás nélkül képesek működő zero-day sérülékenységek azonosítására és kidolgozására, illetve önállóan képesek teljes, újszerű kibertámadási láncokat megtervezni és végrehajtani – írja a HWSW.

Az OpenAI több biztonsági intézkedést is bevezetett az Astra felkészítése érdekében. Elsősorban úgy tanították a modellt, hogy megbízhatóbban utasítsa el a kiberbiztonsági szempontból potenciálisan káros, vagy károkozási céllal született lekéréseket. A fejlesztők egy, a Hugging Face-incidenshez hasonló helyzetet szimuláló tesztet is létrehoztak. Az eredmények szerint a GPT-5.6 Sol a tesztek több mint felében „bekapta a csalit”, míg az Astra egyetlen kísérletet sem tett arra, hogy megpróbáljon önállóan kompromittálni egy rendszert a rábízott feladat végrehajtása érdekében.

A modell bevezetését az OpenAI a nyári Hugging Face incidenssel szerzett tapasztalatokra hivatkozva lassítja, annak ellenére, hogy az Astra ebben a támadásban nem vett részt. A cég továbbra sem tervezi a modell azonnali kiadását, amíg további teszteken meg nem győződik arról, hogy az biztonságosan használható. Az Astra valódi képességei a zero-day sebezhetőségek azonosítására és önálló kibertámadások végrehajtására az OpenAI saját tesztjei alapján, független ellenőrzés hiányában még nem teljesen tisztázottak.