AI-GRACE néven született új irányítási rendszer az AI-ügynökökhöz

Az ügynökalapú mesterséges intelligenciát (agentic AI) bevezető szervezeteknek nem csupán azt kell megállapítaniuk, hogy egy modell megbízható-e, hanem azt is, hogy mit kell validálni, kontrollálni és megfigyelni a kívánt kimenetel elérése érdekében, miközben megfelelnek az alkalmazandó kötelezettségeknek. Ezt a célt szolgálja az AI-GRACE (Agentic Intelligence-Governance, Risk, Assurance, Controls, and Evidence) keretrendszer, amely a szervezeti irányítást és a technikai megvalósítást köti össze — közölték a kutatók az arXiv előnyomtatott formában megjelent tanulmányukban. (ArXiv AI)

Domének és műveleti keretek

A keretrendszer célokat és kötelezettségeket határoz meg, majd hét javasolt doménban, köztük a küldetés és az értékrealizáció területén méri fel a kockázatokat. Ezekből származtatja a bevezetés előtti biztosítási követelményeket, a futásidejű kontrollokat és a bizonyítékokat, amelyek irányítják a képességminősítést, a hiányosságok felmérését és egy logikai architektúra kialakítását. Az Agent Operating Envelope meghatározza az engedélyezett műveleteket és az eszkalációs feltételeket, míg a Risk-Aligned Independence Levels (RAIL) összefoglalja az engedélyezett függetlenség szintjét.

Módszertan és alkalmazási példa

A módszertan kidolgozása során szakmai megfigyeléseket és szabványok, valamint szakirodalom célzott szintézisét használták fel. A keretrendszer egy átlátható alapot kínál a szervezetek számára annak eldöntéséhez, hogy mit kell implementálniuk, mit támogatnak már, és mi marad megoldatlanul. Egy fiktív kiskereskedelmi banki alkalmazás illusztrálja a módszert.

Az AI-GRACE hozzájárulása egy nyomon követhető alapot biztosít a szervezeteknek. A javasolt kockázati domének és az RAIL-szintek hatékonyságát független validálásnak kell megerősítenie.