A dolgozók 60%-a titokban használja a generatív AI-t a cégeknél
A cégek 60%-a nem tudja, milyen kéréseket küldenek dolgozói a generatív AI-eszközöknek, ami komoly biztonsági kockázatot jelent. A hagyományos felügyeleti eszközök nem képesek hatékonyan követni az AI-tevékenységet.
A Cisco 2025-ös Cybersecurity Readiness Index kimutatta, hogy a szervezetek 60%-a nem tudja, milyen konkrét kéréseket küldenek alkalmazottai a generatív AI-eszközöknek. Ez a láthatósági hiány megnehezíti az adatmozgás monitorozását, a szabályzatok betartatását és annak megértését, hogy mely eszközök vagy ügynökök működnek a vállalaton belül. (AI News)
A probléma strukturális, nem kulturális. A szervezeteket a hagyományos szoftverek követésére tervezték, és ezek a rendszerek soha nem voltak képesek érzékelni, hogyan mozog az AI a hálózaton. A standard felfedező eszközök azonosíthatnak egy szoftver-előfizetést, de gyakran teljesen figyelmen kívül hagyják az AI-használati mintákat.
Amikor a dolgozók megkerülik a hivatalos csatornákat az AI-eszközök használatához, az IT elveszíti a rálátást arra, hogy érzékeny vállalati adatok valójában hová kerülnek. Ez a strukturális rés valós működési kockázatot jelent, mivel az adatok olyan célállomásokra jutnak, amelyeket a biztonsági csapat nem tud felügyelni vagy szabályozni.
Az árnyék-AI kockázatainak megértése
Az árnyék-AI (Shadow AI) arra utal, amikor a dolgozók a szervezet jóváhagyása nélkül használnak AI-eszközöket és alkalmazásokat. Ez eltér a hagyományos árnyék-IT-től, mert míg a nem engedélyezett szoftver-előfizetések láthatóak maradnak a standard felfedező eszközök számára, az AI-használat gyakran nem. Az árnyék-AI minden dimenziója eltérő kockázati profilt hordoz, és másfajta választ igényel.
Nem jóváhagyott önálló eszközök
A kockázat gyakori formája, amikor egy dolgozó egy dokumentumot vagy adatkészletet egy nyilvános chatbotba másol be, hogy időt takarítson meg egy rutinfeladaton. Ez a viselkedés ritkán rosszindulatú; a normál dolgozók a legkényelmesebb elérhető eszközt választják, nem pedig biztonsági protokollokat akarnak kijátszani.
Beágyazott szoftver mint szolgáltatás képességek
Ez a kockázat a már jóváhagyott eszközökön belül rejlik, mivel az eredeti biztonsági felülvizsgálat megelőzte az AI-funkciók hozzáadását. A beágyazott képességeket nehezebb elkapni, mint az önálló eszközök használatát, mert a forgalom a felügyelet szempontjából megegyezik a normál platformtevékenységgel.
Autonóm AI-ügynökök
Az ügynökök egy rendszeren belül cselekszenek, nem csupán válaszolnak egy kérdésre, ami megkülönbözteti őket a legtöbb asszisztenstől. A felügyelet messze lemarad a bevezetéstől, mivel az ügynököket gyakran gyorsan állítják fel egy azonnali munkafolyamat-probléma megoldására, formális felülvizsgálati folyamat nélkül. Egy felügyelet nélküli hozzáféréssel rendelkező ügynök hatással lehet a rendszerekre és az adatokra. A Cisco 2025-ös Cybersecurity Readiness Index szerint a szervezetek 60%-a nem tudja, milyen kéréseket küldenek dolgozói a generatív AI-eszközöknek.