AI-féreg támadhatja a háztartási eszközöket, figyelmeztet az Anthropic
Az Anthropic kutatása szerint az AI-férgek hónapokon belül elterjedhetnek a háztartási eszközökön, ami új biztonsági kockázatokat jelent. A kutatók egy 26 milliárd paraméteres modellt osztottak szét 15 okostévén.
Az Anthropic kutatói a Google 26 milliárd paraméteres Gemma 4 modelljét osztották szét 15 Android okostévén. Bár a futtatás lassú volt, bebizonyították, hogy egy modell képes több, önmagában nem elegendő teljesítményű eszközön futni. Ezt követően egy AI-vezérelt férget használtak egy szimulált hálózaton, hogy másoljon és futtasson AI-modelleket. (The Verge)
AI-férgek terjedése
A kísérletben a Meta 8 milliárd paraméteres Llama 3.1-8B modellje sikeresen terjedt, míg a legfejlettebb tesztelt modell, a kínai Z.ai GLM-5.2-je az egész szimulált hálózatot bejárta. Az Anthropic előrejelzése szerint az év végére a kisebb modellek is elérhetik a GLM-5.2 képességeit az önreplikáció terén.
Biztonsági kockázatok és válaszok
Bár a kutatók még nem mutattak be teljes körű, önmagát replikáló AI-férget, az „életre utaló jeleket” találtak. Felhívták a figyelmet a rendszerek megerősítésének fontosságára, hogy megnehezítsék a replikátorok terjedését. A Palisade Research kutatói is megerősítették, hogy a korábbiaknál kisebb modellek is képesek önmagukat másolni gépekre.
Nicolas Papernot, a Torontói Egyetem professzora szerint az AI-vezérelt számítógépes férgek fenyegetése „konkrét”, és „azonnali cselekvést igényel”, különösen a kritikus infrastruktúrák, mint a kórházak és az erőművek védelme érdekében. A rosszul biztosított okoseszközök könnyen célponttá válhatnak, nemcsak az adataik miatt, hanem más rendszerek megtámadásának kiindulópontjaként is.
Az Anthropic kutatása rávilágít a nyílt forráskódú alternatívák potenciális kockázataira, különösen a Z.ai GLM-5.2 modell szimulált hálózaton végzett teljes körű terjedésére.