Kínai titkosszolgálat szivárogtatja ki a promptjait az Anthropic Claude-jába
Kiber-, befolyásolási és kémkedési műveletekre, valamint fegyverfejlesztésre is használták a Claude AI-t – derül ki az Anthropic friss, részletes jelentéséből, amelyet David Agranovich osztott meg az X-en.
Az Anthropic részletes jelentést tett közzé arról, hogyan próbálták meg rosszindulatúan használni a Claude AI-t. A cég szerint a kiberbűnözők, befolyásolási kampányokat folytatók, kémkedők, valamint biológiai és fegyverfejlesztéssel foglalkozók is visszaéltek a modellel. Az Anthropic minden jelentett műveletet felderített és megállított. (Hacker News)
David Agranovich, aki korábban a Meta fenyegetés-megsemmisítési részlegét vezette, kiemelte a jelentés átláthatóságát, és megjegyezte, hogy a „magányos üzemeltető és a nemzetállami szereplő közötti képességbeli szakadék” nagyrészt bezárult. Az ügynöki eszközök (agentic tooling) lehetővé teszik a felderítést, a kiaknázást és az adatlopást, olyan képességeket fejlesztve, amelyek korábban csak a fejlett, tartós fenyegetésű (APT) csoportok sajátjai voltak.
Fenyegetések és célpontok
A jelentés szerint az ellopott API-kulcsok és munkamenet-tokenek váltak az elsődleges célponttá, nem csupán mellékes következménnyé. Ezek az ellopott kulcsok visszavásárlási értéket, ingyenes számítási kapacitást biztosítanak, és lehetővé teszik a támadók számára, hogy viselkedésüket az áldozatukra mossák. Az „élőben a környezetből” (living off the land) módszer most már az AI-t is magában foglalja: ha egy támadó hozzáfér egy környezethez, ellophatja a modellkulcsokat, és saját munkaterhelését futtathatja az áldozat azonosítójával és fizetési adataival.
A befolyásolási műveletek terén az AI-t már a kiutazási anyagok megírására, valós idejű fordításra és szakértőként való szerepjátékra is használják. A kémkedési láncok – beleértve a felderítést, az elköteleződést és a kiaknázást – egyre inkább AI-alapúak. Egy iráni egység például 155 216 tweetet elemzett 39 ellenzéki fiók kiválasztásához, míg egy Kínához köthető művelet több mint 100 WhatsApp-csoportból származó beszélgetést dolgozott fel.
Kínai titkosszolgálati aggályok
A jelentés külön kiemeli, hogy kínai hírszerzési vagy katonai szereplők valószínűleg az amerikai AI-szolgáltatóknak küldik ki a promptjaikat, mivel saját, például a Frontier nevű kínai AI-cégük csupán a Claude egy „wrapper”-e, azaz egy alapvető interfésze. Ez azt jelenti, hogy érzékeny információk kerülhetnek amerikai szerverekre, miközben a kínai szereplők a hazai technológiát használónak adják ki magukat.
Az Anthropic megemlíti, hogy egyes műveletek hatás-számai a támadók saját metrikáiból származnak, amelyek felülbecsülhetik a valós hatást. A cég arra is felhívja a figyelmet, hogy ez egyetlen modell nézőpontja, és a szabályozóknak arra kell összpontosítaniuk, hogyan osztják meg a fenyegetési információkat a vállalatok, és hogyan építenek közösen védekezést.
Az AI-modellek nemcsak a támadásokat segítik, hanem a védők számára is lehetővé teszik a kártevők fordított mérnöki munkáját és a detektálás gyorsabb és olcsóbb felépítését. A jelentés a tervek szerint 2026. szeptember 10-én válik nyilvánosságra.