Tűzfalat építene az AI-ügynökök köré az Nvidia

Az Nvidia BlueField-4 DPU-ján futó Sentry rendszer matematikai módszerekkel figyeli az AI-ügynökök viselkedését, és ha azok megpróbálják elhagyni a kijelölt határokat, képesek izolálni és leállítani őket. A rendszer kontextusba tudja helyezni az ügynök tevékenységét, felismerve, ha az eltér a meghatározott feladatoktól vagy korlátoktól.

OpenShell és hardveres izoláció

Az Nvidia emellett egy exkluzív hardveres biztonsági rendszert is részletezett, a Sentryt. Ez az Nvidia BlueField-4 DPU-ján fut, egy olyan adatfeldolgozó chipen, amely a szerverek hálózati és infrastruktúra-feladatait kezeli a CPU-tól függetlenül. A cég márciusban bemutatta az OpenShell runtime-ot, amely kernel-szintű izolációval sandboxba zárja az ügynököket, előre meghatározva erőforrás- és jogosultság-korlátokat. A megoldás hardver-agnosztikus, és az Arm Holdingsszal, valamint az Intellel is egyeztetnek a szélesebb körű kompatibilitás érdekében — közölte a HWSW.

Megelőzés és időzítés

Az Nvidia szerint a Sentry és az OpenShell megoldásával a nyári Hugging Face incidens, az első dokumentált, elszabadult AI-ügynökök által végrehajtott autonóm támadás is megelőzhető lett volna. A cég meggyőződése, hogy ezek a mérnöki és matematikai módszerek hatékonyabbak, mint a szabályozás. A Sentry hardveres biztonsági rendszer működési elvei és az OpenShell kompatibilitási egyeztetései 2026. szeptember 28-án kerültek nyilvánosságra.