AI-ügynökök szabadon garázdálkodnak, új kockázatokat hoz az OWASP jelentése

Az AI képes a klasszikus biztonsági problémákat gépi sebességgel felskálázni és összekapcsolni, ami új kockázati kategóriákat teremt – derül ki az OWASP Top 10 for LLM Applications 2026 jelentéséből. A korábbiakhoz képest a hangsúly eltolódott az élesben működő AI-rendszerek biztonsági kérdései felé, így az AI-biztonságot inkább alkalmazásbiztonsági problémaként kell kezelni. (Bitport)

Az OWASP augusztus végén publikált elemzése szerint az adatszivárgás továbbra is a legnagyobb kockázat, különösen a shadow AI, azaz a felügyelet nélküli AI-szolgáltatások használata révén. Új kategóriaként jelent meg a hidden context exposure, amikor a modell véletlenül felfedi rejtett rendszerutasításait, vagy a felhasználó tudta nélkül ad át bizalmas információkat.

Az excessive agency, vagy túlzott ügynöki jogosultságok kockázata is újrafogalmazódott: az AI-agentek autonóm módon, gépi sebességgel férhetnek hozzá rendszerekhez és adatokhoz. Emellett az erőforrás-pazarlás, a korlátlan költségek, a félretájékoztatás (misinformation) és az improper output handling, azaz az AI által generált kimenetek vakon történő elfogadása is jelentős veszélyt jelent.

A jelentés szerint a vállalati környezetek egyre inkább az agentic AI irányába mozdulnak, ezért az AI-biztonságot a futó alkalmazásokban, a modell és az eszközök közötti kapcsolatokban, valamint az adatutakon kell megvalósítani. Az MIT FutureTech és a University of Queensland kutatása rávilágít, hogy az AI legjelentősebb veszélyei nem feltétlenül technológiai jellegűek: az AI olyan feladatokat tesz egyszerűbbé, mint a tömeges manipuláció, megfigyelés, deepfake-ek előállítása, vagy akár vegyi és biológiai fegyverek fejlesztése.

A kutatók szerint az AI-val támogatott kibertámadások és egyéb tömeges károkozások is jelentős kockázatot jelentenek, mivel az AI a kódolásban, mintafelismerésben és információfeldolgozásban fejlődik gyorsan. A koncentráció veszélye, hogy a szükséges számítási kapacitás, adat és szakértelem kevés szereplő kezében összpontosul, ami társadalmi és politikai következményekkel is járhat.

Az ötödik legnagyobb kockázatnak a hamis vagy félrevezető információk terjedését tartják, mivel az AI csökkenti a hamis tartalmak előállításának költségét. Az MIT és a University of Queensland kutatásában részt vevő szakértők szerint az AI gyorsan változó képességei, kiberbiztonsági következményei, szabályozási problémái és üzleti folyamatokra gyakorolt hatásai együttesen kezelendők.