Vállalati kontrollok elmaradnak az AI ügynökök mögött

Az IBM új kutatása rávilágít arra, hogy ahogy az AI-ügynökök a kérdések megválaszolásáról döntéshozatalra és cselekvésre váltanak, a vállalatok küzdenek a kontroll és az elszámoltathatóság lépéstartásával a növekvő képességeikkel szemben. (AI Business)

Azonosítás és hozzáférés korlátai

Az identitáskezelés csak részben válasz erre a problémára. Egy vállalat tudhatja, melyik ügynök működik és milyen azonosítót használ, de ez nem feltétlenül árulja el, hogy a próbálkozott cselekedet megfelelő-e. A hagyományos azonosítási és hozzáférés-kezelési rendszerek elsősorban arra szolgáltak, hogy eldöntsék, kapjon-e hozzáférést egy felhasználó vagy alkalmazás.

Az ügynökök újabb réteget adnak hozzá azzal, hogy döntéseket hoznak és cselekvési sorozatokat végeznek hozzáférés után. Ezért a vállalatoknak többre van szükségük, mint az ügynökök hitelesítésére; betekintésre van szükségük abba, hol működnek az ügynökök, mit csinálnak, és milyen felhatalmazásuk van.

Biztonsági kockázatok és felügyelet

A potenciális biztonsági következmények is aggodalomra adnak okot. Egy Workato jelentés szerint a vezetők 36%-a inkább csendben kezelne egy ügynök által vezérelt biztonsági incidenst ahelyett, hogy nyilvánosságra hozná. Ez arra utal, hogy a cégek már most szembesülhetnek ügynökökkel kapcsolatos incidensekkel, mielőtt felügyeleti gyakorlataik teljesen kiépültek volna.

A vállalati ügynökök bevezetésének következő szakasza talán kevésbé azon múlik, hány ügynököt tudnak bevetni, hanem azon, hogy képesek-e ténylegesen kezelni a már meglévőket. Az AI-ügynökök felhatalmazása viszonylag egyszerű, de a felhatalmazás nyomon követése, miután az ügynök elkezdi használni, sokkal nehezebbnek bizonyulhat. A Workato adatai szerint a vezetők 36%-a inkább csendben kezelne egy ügynök által vezérelt biztonsági incidenst, mintsem nyilvánosságra hozná.