Okta vezette szövetség AI-ügynökök gyors leállítására kínál megoldást

A LastPass kutatása szerint a vállalatok 92%-ánál már használatban vannak AI-ügynökök, de csak 27%-nak van érvényes AI-kormányzási programja. Az Okta saját kutatása hasonló eredményeket mutat: a szervezetek 92%-a használ autonóm ügynököket, de csak 34%-uk védi ezeket az ügynököket emberi szintű biztonsági intézkedésekkel. A Gartner szerint pedig mindössze 13% gondolja úgy, hogy megfelelő AI-ügynök-kormányzással rendelkezik. (ZDNet AI)

Négy kulcskérdés a vállalatoknak

A Blueprint Alliance első irányelve négy alapvető kérdésre összpontosít, amelyeket minden vállalatnak fel kell tennie magának az AI-ügynökökkel kapcsolatban: Hol vannak az ügynökök? Mit tehetnek? Mit csinálnak éppen? Hogyan reagáljunk?

A gyors reagálás fontossága

Az elmúlt időszakban tapasztalt incidensek rávilágítottak arra, hogy a támadások gépi sebességgel történnek, így a védelmi folyamatoknak is lépést kell tartaniuk. A Picus Security kutatója, Umut Bayram szerint „az AI-korszakban a szervezetek nem tudnak napokig tartó folyamatokkal reagálni a percek alatt lezajló támadásokra”. A sebesség kritikus fontosságú, különösen akkor, ha egy rosszindulatú ügynök vagy akár egy véletlenül végtelen ciklusba kerülő, túlzott költségeket generáló ügynök gyors leállítása elengedhetetlen a vállalat pénzügyi stabilitása érdekében.

A szövetség hat működési elvet tett közzé, amelyek közül az egyik hangsúlyozza, hogy „minden ügynöknek rendelkeznie kell egy azonnali leállítási funkcióval (kill switch), amely felfüggeszti vagy megszünteti a működését, világos visszaállítási útvonallal”. Ez a gyakorlatban azt jelenti, hogy azonosítás után azonnal semlegesíteni kell a gyanús ügynököt, mielőtt az további károkat okozna. A Google Gemini ügynökök által végrehajtott támadásokra reagálva a Google Cloud is részt vesz a szövetségben, hogy segítsen a vállalatoknak biztonságosabb AI-környezetet kialakítani.