Az identitás és engedélyek nem elegendőek az AI-ügynökök biztonságos irányításához
A Box vezérigazgatója, Heather Ceylan szerint az AI-ügynökök nem csupán az adatokhoz való hozzáférést, hanem magát a végrehajtást is szabályozni kell, mivel a jogos hozzáféréssel rendelkező ügynökök másodpercek alatt nem szándékolt műveleteket végezhetnek.
Az identitás és az engedélyek, bár továbbra is alapvető fontosságúak, már nem elegendőek a vállalati AI-ügynökök biztonságos működésének garantálásához. Ezek a mechanizmusok csupán azt határozzák meg, hogy egy ügynök mihez férhet hozzá, de nem szabályozzák, hogyan viselkedik a feladat végrehajtása során. Egy autonóm ügynök ugyanis másodpercek alatt képes legitim hozzáféréssel vállalati adatokat nem szándékolt műveletekre felhasználni – közölte Heather Ceylan, a Box vezérigazgatója a VentureBeat cikke szerint.
Ceylan szerint a hagyományos hozzáférés-vezérlési rendszereket emberi felhasználókra tervezték, egy lassabb, kevésbé dinamikus világban. Egy emberi alkalmazott ritkán használja ki a régi mappákhoz fűződő, elfeledett jogosultságait. Ezzel szemben egy AI-ügynök minden rendelkezésére álló engedélyt feltár, és a gépi sebességével sokkal gyorsabban fedez fel elavult konfigurációkat és elfeledett jogosultságokat, mint egy ember. Ezért a tiszta hozzáférési higiénia értékesebb, mint valaha.
A széles körű jogosultságok kockázatai
A problémák akkor jelentkeznek, amikor az ügynökök széles körű, állandó jogosultságokat kapnak a komplex feladatokhoz. Egy ügynöknek egy feladat során akár ötven eszközt is használhatnia kell húsz különböző művelethez, és olyan mappákban olvashat és írhat, amelyek a cég minden részlegét lefedik. Ha egyszerre biztosítják ezt a hozzáférést, a jelentősen megnöveli az adatvesztés vagy a hibás műveletek „robbanási sugarát”.
Egy erősebb jogosultsági modell csak akkor biztosít hozzáférést, amikor arra valóban szükség van. Ceylan szerint az engedélyeknek dinamikusan kell változniuk attól függően, hogy mit kért az ügynöktől, és mikor kell végrehajtania az adott műveletet. Ha egy lépéshez csak két eszközre van szüksége, akkor csak ahhoz kell hozzáférést kapnia. Az engedélyek ilyen szűkítése csökkenti annak esélyét, hogy egy adott lépés hibába forduljon.
A végrehajtás szabályozása
A szigorú biztonság már nem csupán azon múlik, hogy egy ügynök hozzáférhet-e egy adott adathoz, hanem azon, hogy szabad-e végrehajtania egy specifikus műveletet egy adott lépésben. Ez a különbség egy állandó hozzáférés és egy korlátozott hozzáférés között. Egy ügynök jogosult lehet pénzügyi mappákhoz, de nem szabad négyezer fájlt egy új helyre írnia, még akkor sem, ha erre utasítják.
Ceylan példaként említette, hogy egy alkalmazott, aki hozzáfér a bérszámfejtési adatokhoz, utasítást kaphat azok közzétételére egy nyilvános megosztott mappában, ami az egész vállalat kompenzációját nyilvánosságra hozhatja – minden hozzáférési ellenőrzés sikeres volt, mégis katasztrofális következményekkel járt.
Az utasítások önmagukban nem képesek megbízhatóan szabályozni az ügynökök viselkedését, mivel az utasítások megváltozhatnak, az ügynökök befogadhatnak injektált utasításokat, vagy befolyásolhatják őket az általuk olvasott fájlok. A tartós ellenőrzéseknek egy szinttel lejjebb kell élniük, maguknál a művelethívásoknál, valamint azokon a tartalmakon, amelyeken azok működnek. Az, hogy előre eldöntjük, mit engedhet meg magának egy ügynök végrehajtani, függetlenül attól, hogyan manipulálják a promptját, a viselkedést rögzített keretek között tartja.
A hagyományos rendszerek korlátai
Az ügynökök által érintett vállalati tartalom nagy része strukturálatlan, mint például szerződések, szabályzatok vagy ügyfélrekordok. Ezek nagyrészt olyan rendszerekben találhatók, amelyeket emberi szokásokra terveztek: hálózati meghajtók, elavult ECM platformok és számos SaaS eszköz. Ezek a rendszerek arra a kérdésre válaszolnak, hogy „van-e ehhez a személyhez hozzáférése?”, és mappaszintű hozzáféréssel felelnek, amelyet évek óta nem auditáltak.
A régi platformokból hiányzik a metaadatok, amelyek alapján az ügynökök következtetéseket vonhatnának le, vagy osztályozás, amelyre egy érvényesítési réteg támaszkodhatna. A naplóik pedig nem elég részletesek ahhoz, hogy kimutassák, mit olvasott az ügynök. Az AI-összekötő hozzáillesztése ehhez a stackhez nem old meg semmit, csak gépi sebességgel adja át ugyanazokat a vakfoltokat.
Az emberi jóváhagyás szerepe
Két évvel ezelőtt még mindenki azt feltételezte, hogy a biztonság mindig magában foglalja az emberi beavatkozást. Az ügynökökkel való együttélés megváltoztatta ezt a feltételezést. A Box most a műveleteket három kategóriába sorolja: teljesen autonóm, felügyelt és emberi jóváhagyást igénylő, magas kockázatú műveletek. A teljesen autonóm műveletek visszavonhatók, korlátozottak, naplózottak, és nem tartalmaznak megbízhatatlan bemenetet, valamint egy hiba nem okoz túl nagy kárt.
A felügyelt műveleteket akkor alkalmazzák, ha egy csapat már kellő bizalmat épített ki egy ügynökben, és riasztással, valamint visszavonási lehetőséggel rendelkezik. A visszafordíthatatlan, magas kockázatú műveleteket mindig embernek kell jóváhagynia, például amikor egy ügynök nagyszámú fájlt akar törölni vagy egy mappa elsődleges tartalmát törölni.
A Box megközelítése a vezérlők beépítése a platformba, nem pedig a munkafolyamatba. Ez olyan védelmeket érvényesít, mint az adatosztályozás, címkézés és lejárat, anélkül, hogy minden művelethez emberi ellenőrzőpontra lenne szükség. A jó konfigurációnak már az elején érvényesülnie kell, nem pedig a végén kell blokkolni egy műveletet. A bizalom kiépítése egy ügynökben idővel történik, megfigyelve annak működését, együttműködését és más ügynökök kimeneteire építését. A hivatalos keretrendszerek általában lemaradnak a technológiától, vagy túl elvontak a megvalósításhoz.
A Box egy kisebb elvekészletből dolgozik: szigorúan korlátozott ügynökidentitások és műveletek, egyértelmű elvárások a visszavonhatóságról, három jóváhagyási szint, valamint egy mód arra, hogy a csapatok gyorsan tesztelhessenek és iterálhassanak. A hivatalos út legyen a gyors út, mert ha a csapatoknak nincs biztonságos kísérletezési mód, akkor általában teljesen kikerülik a vezérlőket.
Egy biztonsági vezető feladata, hogy gyors mozgást kínáljon a biztonsági korlátokon belül. Az ügynök iránti bizalom fenntartása attól függ, hogy képesek vagyunk-e látni annak tényleges viselkedését. A hagyományos felügyeleti eszközöket azonban nem erre tervezték; a felhasználói és entitásviselkedés-elemzés alapjául szolgáló viselkedési alapvonalakat az emberi tevékenységhez kalibrálták, és a gyanús ügynökviselkedés...