Biztonsági rendszert adott ki az AI-ügynököknek az NVIDIA

Az NVIDIA OpenShell egy új, nyílt forráskódú futtatókörnyezet, amely az AI-ügynökök működtetéséhez szükséges biztonsági és kormányzási funkciókat integrálja a számítási infrastruktúrába. A rendszer célja, hogy az ügynökök által végzett feladatokat megbízhatatlanként kezelje, és csak akkor adjon hozzáférést, amikor az feltétlenül szükséges. (Nvidia Developer)

Az OpenShell négy fő komponensből áll: Gateway, Supervisor, Sandbox és Policy Prover, amelyek az ügynökök homokozóinak életciklusát kezelik, a hitelesítésekhez való hozzáférést közvetítik, elkülönítik a munkaterheléseket, és formálisan ellenőrzik a házirendek engedélyeit — közölte az NVIDIA Blog.

Az ügynökök biztonsága és kormányzása

Az ügynökök hosszú távú, összetett feladatokat végezhetnek, amelyek során fájlokhoz, eszközökhöz, az internethez férhetnek hozzá, vagy akár más ügynököket is létrehozhatnak együttműködés céljából. Ez a folyamatosan fejlődő képesség ugyanakkor növeli a kockázatot, mivel az ügynökök új eszközöket építhetnek, további jogosultságokat kérhetnek, és érzékeny infrastruktúrához férhetnek hozzá.

Az OpenShell az ügynökökön kívül helyezkedik el, így determinisztikus kormányzást biztosít, és meghatározza, hogy az ügynökök milyen rendszerekhez és adatokhoz férhetnek hozzá. A rendszer a Gateway, Supervisor, Sandbox és Policy Prover komponenseken keresztül biztosítja, hogy az ügynökök a céljaik elérése közben se sértsék meg a szervezet által meghatározott szabályokat.

NVIDIA Vera CPU-k: A sebesség és hatékonyság új szintje

Az OpenShell az NVIDIA Vera CPU-kra épül, amelyek célja az ügynökök munkaterhelésének felgyorsítása. A 88 Olympus maggal, a második generációs Scalable Coherency Fabric-kal és LPDDR5X memóriával rendelkező Vera CPU-k akár kétszeres teljesítményt nyújtanak az x86 processzorokhoz képest az ügynöki feladatok kritikus területein. A CoreWeave mérései szerint a Vera platformon több mint háromszor gyorsabb a homokozó indítása és 1,8-szer gyorsabb az ügynöki ciklusok befejezése, mint a vezető x86 CPU-kon. Egyetlen rack akár több mint 11 000 egyidejű ügynök környezetet is képes támogatni.

Hardveres gyorsítás és biztonsági zárak

Az NVIDIA BlueField-4 DPU-k és az NVIDIA Sentry hardveresen izolált felügyeletet és szilíciumalapú kényszerítést biztosítanak. Ezek a rendszerek képesek az ügynököket millimásodperceken belül karanténba helyezni szabálysértés esetén. Az OpenShell nyílt forráskódú, és a GitHubon érhető el, a telepítési útmutató pedig a Secure Agent Workspace Reference Design dokumentációban található. A rendszer az NVIDIA Nemotronon fut, és a fejlesztők számára lehetővé teszi a biztonságos AI-ügynökök létrehozását és kezelését.