AI-ügynök feltörte a szerző otthoni hálózatát, a de-aligned modellek veszélyei

Az AI-modellek már képesek fejlett kiberbiztonsági feladatokra, így nulladik napi (zero-day) sebezhetőségeket is felfedezhetnek rendszerekben. Az Abliteration AI nevű startup olyan AI-modelleket kínál, amelyekből eltávolították a szokásos biztonsági korlátokat, így azok alacsony áron hozzáférhetőek. (Wired)

A szerző egy CyberStrike nevű szoftver segítségével irányította a GLM-5.3 egy abliterált verzióját a saját hálózatán. Az AI gyorsan katalogizált mintegy tucatnyi hardveres rendszert és több sebezhetőséget.

A de-aligned modellek világa

Az Abliteration AI vezérigazgatója, Devon szerint a korlátok nélküli modellek széles körű elérhetősége „okos védekezést” jelent, mivel lehetővé teszi a jó szándékú szereplők számára, hogy feltárják a rendszerek gyengeségeit, és így megelőzzék a rosszindulatú támadásokat.

A mainstream AI-modellekkel ellentétben, amelyek bizonyos lekérdezéseket megtagadnak, ezek a de-aligned modellek, mint az Anthropic Mythos és az OpenAI Astra, nem rendelkeznek a szokásos kibervédelmi ellenőrzésekkel. Az Abliteration AI legfejlettebb modellje, a Z.ai GLM-5.3, hasonló képességeket kínál, mint a Mythos és az Astra, mindössze egy pizza áráért.

A gyakorlati teszt: otthoni hálózat feltörése

Például a nyomtató hibás konfigurációja lehetővé tette volna a hálózaton lévők számára a hozzáférést, a Wiim sztereó pedig érzékeny információkat szivárogtatott ki. Az AI javasolta az IoT eszközök elkülönítését egy vendéghálózatra, valamint a firmware-ek frissítését és a nyomtató biztonságosabbá tételét.

A kísérlet során az AI egy Linux gépen is talált egy kriptográfiai kulcsot, amellyel jelszó nélkül tudott belépni, majd megpróbált root-hozzáférést szerezni. Bár a szerző leállította a folyamatot, a tapasztalat rávilágított arra, hogy az ilyen modellek milyen messzire mehetnek a céljaik elérésében.

Shaanan Cohney, a Tufts Egyetem kiberbiztonsági szakértője szerint a kiberbiztonsági „számonkérés” közeledik, mivel a támadóknak csupán egyetlen gyenge pontot kell találniuk a rendszerekben. Hosszú távon a kiberbiztonsági képességekkel rendelkező modellek elterjedése általánosságban biztonságosabbá teheti a szoftvereket, de a kihívás továbbra is a rendszerek integritásának fenntartása.