AI-rendszerek sebezhetősége nő a kibertámadásokban, a SentinelOne szerint
Az AI gyorsítja a kiberfenyegetések sebességét, kiterjedtségét és kifinomultságát, miközben a támadók is AI-t használnak a támadások skálázására, ami meghaladja az emberi reakcióidőt — hívja fel a figyelmet a SentinelOne és a Palo Alto Networks.
A BSIMM (Building Security in Maturity Model) 16. kiadása szerint az AI technológia kétarcúsága nyilvánvalóvá vált: miközben gyorsíthatja az innovációt és csökkentheti a kockázatokat, rejtett sebezhetőségeket is hozhat a vállalati rendszerekbe. (Bitport)
A SentinelOne és a Palo Alto Networks kutatásai szerint az új generációs, AI-val kapcsolatos támadások megkérdőjelezik a szervezetek felkészültségét és a kockázatértékelés hatékonyságát.
Az AI-biztonság négy pillére
A SentinelOne tanulmánya szerint az AI biztonsági kihívásait négy fő területen kell vizsgálni: magát a modellt, a képzési adatkészletet, a modell telepítésének folyamatát (folyamat), valamint az infrastruktúrát. Ezeket különböző támadástípusok veszélyeztetik, mint például az adatmérgezés (data poisoning), amely rontja a modellek pontosságát és backdoorokat hozhat létre. Az injekciós támadásokkal pedig a chatbotokból adattolvajokat lehet „nevelni”.
Támadók és védekezők is AI-t használnak
A támadók AI-t használnak a támadások sebességének és skálázásának növelésére, ami meghaladja az emberi reakcióidőt. A Palo Alto Networks elemzése rámutat, hogy míg a hagyományos támadások látható nyomokat hagynak, az AI-modellek elleni támadások gyakran észrevétlenek a hagyományos védelmi rendszerek számára. Az inputok legitimnek tűnnek, a kár pedig fokozatosan torzítja a modell pontosságát és megbízhatóságát, téves üzleti vagy biztonsági döntésekhez vezetve. Ezért elengedhetetlen az ellenérdekű tesztelés (adversarial testing) és a model provenance tracking alkalmazása.
Az OWASP jelentése szerint a legfőbb AI-biztonsági kihívások a prompt injection (utasítás-befecskendezés), a hidden context exposure (rejtett kontextus felfedése) és a data poisoning (adatmérgezés). A modellklónozási és -lopási támadások is kiemelt veszélyt jelentenek.
A megoldás a gépi tanuláson alapuló biztonsági rendszerekben rejlik, de a technológia önmagában kevés; érvényesíthető szabályzatokra és eljárásokra is szükség van az egységes biztonsági gyakorlatok kialakításához. A SentinelOne és a Palo Alto Networks figyelmeztetése szerint az AI-rendszerek sebezhetősége a kibertámadásokban tovább nő.