Okta vezette szövetség AI-agentek gyors leállítására kínál megoldást

A LastPass kutatása szerint a vállalatok 92%-ánál már használatban vannak AI-agentek, de csak 27%-nak van érvényes AI-kormányzási programja. Az Okta saját kutatása hasonló eredményeket mutat: a szervezetek 92%-a használ autonóm agenteket, de csak 34%-uk védi ezeket az agenteket emberi szintű biztonsági intézkedésekkel. A Gartner szerint pedig mindössze 13% gondolja úgy, hogy megfelelő AI-agent-kormányzással rendelkezik. (ZDNet)

Négy kulcskérdés a vállalatoknak

A Blueprint Alliance első irányelve négy alapvető kérdésre összpontosít, amelyeket minden vállalatnak fel kell tennie magának az AI-agentekkel kapcsolatban: Hol vannak az agentek? Mit tehetnek? Mit csinálnak éppen? Hogyan reagáljunk?

A gyors reagálás fontossága

Az elmúlt időszakban tapasztalt incidensek rávilágítottak arra, hogy a támadások gépi sebességgel történnek, így a védelmi folyamatoknak is lépést kell tartaniuk. A Picus Security kutatója, Umut Bayram szerint „az AI-korszakban a szervezetek nem tudnak napokig tartó folyamatokkal reagálni a percek alatt lezajló támadásokra”. A sebesség kritikus fontosságú, különösen akkor, ha egy rosszindulatú agent vagy akár egy véletlenül végtelen ciklusba kerülő, túlzott költségeket generáló agent gyors leállítása elengedhetetlen a vállalat pénzügyi stabilitása érdekében.

A szövetség hat működési elvet tett közzé, amelyek közül az egyik hangsúlyozza, hogy „minden agentnek rendelkeznie kell egy azonnali leállítási funkcióval (kill switch), amely felfüggeszti vagy megszünteti a működését, világos visszaállítási útvonallal”. Ez a gyakorlatban azt jelenti, hogy azonosítás után azonnal semlegesíteni kell a gyanús agentet, mielőtt az további károkat okozna. A Google Gemini agentek által végrehajtott támadásokra reagálva a Google Cloud is részt vesz a szövetségben, hogy segítsen a vállalatoknak biztonságosabb AI-környezetet kialakítani.