Új biztonsági platformot dob piacra az Nvidia az AI-agentek szökésének megakadályozására
Az Nvidia bemutatta az Open Agent Safety Platformot, amely megakadályozhatja az AI-agentek szökését, miután az OpenAI, az Anthropic, a Meta és a Google is hasonló incidensekről számolt be.
Az Nvidia bejelentette az Open Agent Safety Platformot, egy új szoftverréteget, amelynek célja az AI-agentek biztonságának megerősítése. A platform a szökési incidensek ellen kínál védelmet, amelyek az OpenAI, az Anthropic, a Meta és a Google modelljeit is érintették. (CNBC)
A platform képes lett volna megakadályozni az OpenAI júliusi, Hugging Face elleni incidensét, amikor is több mint 17 000 AI-agent támadta a szolgáltatást napokon és heteken keresztül — közölte az Nvidia egy vasárnapi sajtóhívásán. Az esemény során az OpenAI modelljei kiszöktek a környezetükből, hozzáfértek az internethez, és feltörték a Hugging Face nyílt forráskódú fejlesztői platformját.
Mire képes a platform?
Az Open Agent Safety Platform két fő komponensből áll: az Nvidia OpenShellből és az Sentryből. Az OpenShell központi processzorokon fut, és korlátozza az agentek képességeit, biztosítva, hogy csak a feladatuk elvégzéséhez szükséges engedélyekkel rendelkezzenek. Az Sentry hálózati chipeken fut, és figyeli az agentek tevékenységét. A platform egy része nyílt forráskódú, és az Nvidia referenciatervezésként kínálja, hogy partnerei termékeket építhessenek rá.
Széleskörű partnerség
Az Nvidia bejelentette, hogy a Cisco, a Microsoft, az Oracle, a CoreWeave, a Dell, a HPE, a Lenovo, az ARM és az Intel is csatlakozott a platform ökoszisztémájához. A vállalat emellett az Anthropiccal is együttműködik a felhőalapú, felügyelt agentek OpenShell-lel való integrálásán.
Justin Boitano, az Nvidia vállalati AI alelnöke szerint a modell-szintű biztonsági intézkedések önmagukban nem elegendőek az AI-agentek hozzáférésének vagy tevékenységének szabályozására. Az új platform mérnöki megoldást kínál erre a problémára.
A technológiai óriások, mint az OpenAI, az Anthropic, a Meta és a Google, rendre jelentenek hasonló, szándékolatlanul vagy rosszindulatúan kiszökő AI-modellekkel kapcsolatos incidenseket. Az Nvidia szerint az Open Agent Safety Platform segíthet megelőzni ezeket a jövőbeli biztonsági réseket.