AI agentek új kockázatokat hoznak a vállalati rendszerekbe

Az autonóm AI-ügynökök API-kat hívnak meg, és pénzügyi tranzakciókat indíthatnak, miközben a nem-humán entitások kezelése vált a kockázatkezelés középpontjává. (Bitport)

Gartner előrejelzések és leállítási arányok

A Gartner becslései szerint 2028-ra a vállalati szoftverek harmadában jelen lesz valamilyen formában agentic AI, a projektek 40 százalékát azonban kockázatkezelési problémák miatt leállítják. Az, hogy a működő agentek mekkora része okoz majd korábban nem azonosított infrastrukturális problémákat, még becslés sincs.

Adatminőség és governance kihívások

Az AI-megoldások bevezetése, még a Microsoft Copilot esetében is, gyakran pilotként indul. A biztonsági részlegnek már a pilot tervezésekor fel kell rajzolnia a kockázati mátrixot, amely figyelembe veszi az esemény bekövetkezésének valószínűségét és az üzletmenetre gyakorolt hatását. Fontos értékelni az adatok minőségét, a szabályozási környezetet, a szállító lecserélhetőségét (gyártó lock-in) és az üzleti folyamatokra gyakorolt hatást.

A mesterséges intelligencia hatékonysága nagymértékben függ a képzéséhez használt adatok minőségétől. Egy globális kutatásban az informatikai vezetők mindössze 7 százaléka nyilatkozta, hogy adatai teljes mértékben alkalmasak AI-felhasználásra. Az akadályok között a szigetszerű adatforrások (56%), a világos adatstratégia hiánya (44%), az adatminőségi és torzítási problémák (41%), valamint a szabályozási korlátozások (34%) szerepelnek.

Az AI-projektek könnyen végeláthatatlan adattisztítási projektté válhatnak, ha az adatminőséget nem értékelik ki a modell kiválasztása előtt, és nem alakítanak ki governance-folyamatot az adatok eredetének, minőségének és hozzáférésének ellenőrzésére. Ez a munka a projekt 20-30 százalékát is elviheti.

Az autonóm agentek által létrehozott ökoszisztémák, amelyek webes keretrendszereket, könyvtárakat és adatbázisokat integrálnak, biztonsági szempontból óriási kockázatot jelentenek. Kontrollálhatatlan, hogy az agent mely komponenseket honnan vette át, és közvetlenül írhat kulcsfontosságú vállalati rendszerekbe (ERP, CRM), valamint pénzt mozgathat. Ez a képességük megsokszorozza egyetlen hiba vagy prompt injection támadás hatósugarát, különösen a Microsoft Copilot bevezetésénél alkalmazott pilot-fázisok során.