Red Hat indítja az asago projektet, amely AI-szabályozást kódra fordít

A Red Hat elindította az asago nyílt forráskódú projektet, amely az AI-irányítási politikát futtatható telepítési kóddá alakítja. A kezdeményezés célja, hogy automatizálja és auditálhatóvá tegye a mérnöki és megfelelőségi lépések összekapcsolását. (AI News)

Az EU AI Acthez hasonló szabályozások hatályba lépésével a vállalatoknak választaniuk kell: vagy lelassítják az AI-innovációt kézi ellenőrzéssel, vagy felügyelet nélkül futtatnak AI-ügynököket. Az asago erre kínál megoldást, építve a Red Hat és az NVIDIA korábbi munkájára az Open Secure AI Alliance-ban. A projekt Apache License 2.0 alatt érhető el, és jelenleg fejlesztőket, kutatókat, valamint vállalati korai felhasználókat vár GitHubon.

Négy szakasz a szabályzattól a működő kontrollokig

Az asago munkafolyamata négy szakaszon fut keresztül. Először kockázatfeltérképezés történik: a rendszer elemzi a feltöltött irányítási politikát, és összeveti azokat olyan keretrendszerekkel, mint az NIST AI RMF, az OWASP LLM Top 10, valamint az IBM AI Risk Atlas által katalogizált EU AI Act. A politikai nyelvezet automatikusan kockázati profillá alakul.

Ezt követően kockázatértékelés következik: a projekt egyedi forgatókönyveket generál és futtat, hogy feltárja a kockázatfeltérképezés által jelzett káros viselkedéseket. Végül kockázatcsökkentés történik: a rendszer javaslatokat tesz a tesztelés eredményei alapján, és egy olyan indoklási nyomot hoz létre, amely megfelel a felülvizsgálat követelményeinek.

Az asago a javasolt kontrollokat telepítésre kész konfigurációkká szervezi hibrid felhő és Kubernetes környezetekben, ami a Red Hat szerint a telepítési időt hónapokról napokra csökkentheti.

Audit-trail termékként

Minden szakasz egyetlen, folyamatos audit-trail-t táplál. Minden politikai klauzulához egyedi teszt, minden teszthez pedig egy futásidejű kontroll kapcsolódik. Ez lehetővé teszi a felügyelők számára, hogy bármely aktív kontrollt visszavezetjenek a mögöttes politikai sorhoz. Ez a nyomon követhetőség a projekt fő értékesítési pontja, amely az AI-biztonságot folyamatos vállalati funkcióként kezeli.

Steven Huels, a Red Hat AI Engineering alelnöke szerint „Ahogy a szervezetek az AI-kísérletekből hosszú távon futó, autonóm ügynökökhöz lépnek, az egyértelmű működési…”.