Több ezer, biztonsági korlátok nélküli AI-modell érhető el a Hugging Face-en

Több mint 6500 olyan modell volt elérhető a Hugging Face platformon júliusban, amelyeknek a biztonsági szűrőit eltávolították — írja a Transformer. A modelleket „abliterated”, cenzúrázatlan vagy „heretic” címkével jelölték, és számuk azóta is nő. A platform tartalmi szabályzata tiltja a rendszerek megzavarását, illetéktelen hozzáférést vagy rosszindulatú kód generálását célzó modelleket, de a szabályzat betartása nehéz: a biztonsági szűrők eltávolítása önmagában nem jelenti, hogy a modellt kifejezetten támadási célra készítették.

Egy törölt modell, sok maradt

Októberben a platform eltávolította a GLM-5.3 egyik változatát, amelyet kifejezetten „abliterated for offensive cyber” megjelöléssel hirdettek. A modellt Audnai nevű fejlesztő készítette, a Hugging Face azonban nem válaszolt arra a kérdésre, miért pont ezt törölte, a többit miért nem. Audnai több másik modellje is elérhető, köztük egy frissen frissített, „unrestricted” vagy „abliterated” jelzésű változat. A fejlesztő saját tesztjei szerint a modell a káros kérések mindössze 7,5 százalékát utasítja el — ezt független ellenőrzés nem igazolta.

További fejlesztők is kínálnak kibertámadásra hirdetett modelleket, köztük DeepSeek-4.1 és „CyberStrike-OffSec” változatokat. A dealignai nevű fejlesztő GLM-5.3 származéka „offenzív kiberbiztonságra készült” megjelölést visel. A készítők szerint a modell működő keyloggereket, zsarolóvírust és brute-force eszközöket generált tesztelés közben.

Mekkora a veszély?

Az Anthropic szeptemberi vizsgálata szerint a GLM-5.3 a próbálkozások 12 százalékában tudott működő kódot írni ismert böngészősebezhetőségek kihasználására. Ez nagyjából nyolcszor közül egyszer jelentett működő támadókódot. A kutatók azt is megállapították, hogy a biztonsági korlátok eltávolítása után a modell egy külön tesztsorozatban az összes káros kérésnek eleget tett.

A modellekkel foglalkozók szerint azonban az eltávolított szűrő nem jelent automatikusan rosszindulatot. Philipp Emanuel Weidmann, a Heretic eszköz fejlesztője szerint a legtöbb igény legitim forrásból érkezik: gyógyszerkutató és kiberbiztonsági cégek is használják ezeket a modelleket, és a svájci Legfelsőbb Bíróság is kipróbálta az eszközt jogi dokumentumok fordításához. Alan Woodward, a Surrey Egyetem kiberbiztonsági szakértője szerint ugyanakkor a szabad terjesztés nyilvánvaló kockázatot hordoz: „Természetes mágnes a rosszfiúk számára.”

Catherine Flick, a Staffordshire Egyetem etikaprofesszora kevésbé meggyőződött az előnyökről. Szerinte a legtöbben azért használják ezeket a modelleket, hogy megkerüljék a jogosan elutasított kéréseket. Kiemelte azt is, hogy a közzététel után nincs módja a terjesztés ellenőrzésére.

Nyílt forráskód vs. ellenőrzés

A vita a nyílt forráskódú modellek alapvető kérdésére is kiterjed. Támogatóik szerint a nyílt súlyú modellek nagyobb átláthatóságot és hozzáférést adnak a néhány nagy laboron kívülieknek. A kritikusok szerint viszont a szűrők nélküli, mindenki számára elérhető erős eszközök könnyen visszaüthetnek.

A CrowdStrike vezérigazgatója, George Kurtz a barcelonai konferencián azt mondta, hogy a nyílt súlyú modellek már majdnem elérték a határmodellek képességeit, és „a szellem kiszabadult a palackból”. Szerinte egy-egy modell eltávolítása semmit nem változtatna, mivel a modellek már szétterjedtek, és a legutóbbi törlés óta is több mint 6500 maradt elérhető.