AI-ügynökök új biztonsági kockázatokat hoznak a vállalati IT-rendszerekbe

Werner Obring, a Clico Hungary cloud security architektje szerint az AI hatása a vállalati működésre abban rejlik, hogy míg korábban a fejlesztői csapatok végezték a kódolást, addig ma már természetes nyelven is leírható egy alkalmazás működése, és az AI képes működő kódot létrehozni. Ez rugalmasabb működést tesz lehetővé, de óriási biztonsági kockázatokat is hordoz, ha a szervezet nem veszi figyelembe az AI által hozott változásokat. A problémák gyökere, hogy az AI nem emberként működik: hatékonyságra optimalizált, míg az ember a kontextust is figyelembe veszi. (Bitport)

IAM és prompt injection elleni védelem

Az AI-ügynökök biztonságos integrálásához kulcsfontosságú az IAM (Identity and Access Management) pontos konfigurálása, az emberi felelősségvállalás az ügynökök munkájáért, valamint a prompt injection elleni védelem. Az AI-agentek műveleti korlátainak pontos definiálása, a fokozatos bővítés és az ember mint végső ellenőrző vonal beiktatása elengedhetetlen. Legacy rendszerek esetén köztes réteg vagy policy enforcement point (PEP) szükséges az AI-ügynökök és a rendszerek közötti kontrollok menedzselésére.

Zero Trust és futásidős ellenőrzés

A gyártók többsége már integrálja a hagyományos és AI-biztonsági megoldásokat. A Zscaler a Zero Trust Exchange-nél kiterjesztette zero trust hozzáférési és adatvédelmi funkcióit az AI-agentekre, míg a Palo Alto Networks Prisma AIRS megoldása futásidőben ellenőrzi a promptokat és az AI kimenetét. A szoftverfejlesztésben az AI-ügynökök esetében is alap a hozzáférés-kezelés, de a kódot és az éles alkalmazást is kontrollálni kell.

A fejlesztési környezet védelme, a statikus kódelemzés, a szoftverösszetétel-elemzés, a secret scanning és a funkcionális tesztek továbbra is nélkülözhetetlenek, mivel az AI által generált kód is tartalmazhat sérülékenységeket. A Palo Alto Networks Prisma AIRS megoldása futásidőben ellenőrzi a promptokat és az AI kimenetét.