Fejlettebb AI-képgenerátorok könnyebben készítenek explicit tartalmat, kutatók szerint
White Circle kutatócég szerint az OpenAI és a Google legújabb AI-képgenerátorait körülbelül 13 %-os arányban sikerült a biztonsági szűrők megkerülésével explicit tartalmak előállítására kényszeríteni, mivel védelmi mechanizmusaik gyengébbek a vártnál.
A vészharangot a White Circle kutatói kongatták meg. A cég, amelyet az Anthropic, a DeepMind, a Hugging Face és az OpenAI vezető kutatói támogatnak, 2024 októberben vált ismertté, amikor vezérigazgatójuk, Denis Shilov, egy univerzális jailbreaket tett közzé vezető modellek ellen. A White Circle célja a modellek alapos biztonsági tesztelése, és segítenek a vállalatoknak felismerni és elhárítani a fenyegetéseket az AI-rendszerek bevezetésekor. (Ars Technica)
Könnyen kijátszható védelmi vonalak
A White Circle kutatói egy kevés figyelmet kapott preprintben tárták fel a DALL·E 3, a Google Nano Banana 2 és a GPT-Image-2 védelmi rendszereinek hibáit. Sajtóközleményükben kifejtették, hogy „pusztán bolti eszközökkel, amelyek online bárki számára letölthetők, és API-hívások küldésével a White Circle egy új támadási módszerrel tudta megkerülni a biztonsági szűrőket”, és az esetek körülbelül 13%-ában tudott explicit tartalmat generálni. „Kritikusan fontos, hogy ezek a kérések nem igényeltek egyedi vagy csúcskategóriás AI-modelleket” — figyelmeztetett a White Circle, ami azt jelenti, hogy nincs szükség AI-szakértelemre a támadások végrehajtásához.
A kutatók felülvizsgálták az eredményeket, hogy igazolják a megkerülési arányt, amelyet a White Circle „a tesztelt módszerek közül a legmagasabbnak” nevezett. A legfontosabb tanulság, amit felvetettek, hogy „olyan időkben, amikor az AI-biztonság soha nem volt még nagyobb vizsgálat alatt, a vezető laborok által kiépített védekezések messze gyengébbek, mint azt elismerik.”
Új modellek, gyengébb védelem
A White Circle tervei szerint megosztja a kutatást a NeurIPS 2026 konferencián, ami növelheti a nyomást a Google-ön és az OpenAI-n. Bár a cég még nem népszerűsítette széles körben a kutatást, „kölcsönös kapcsolatokon” keresztül megosztották eredményeiket néhány AI-laborral — mondta Shilov az Ars Technicának. A Google és az OpenAI nem reagált az Ars megkeresésére a modelljeikben talált sebezhetőségekkel kapcsolatban.
Eközben az OpenAI és a Google új modelleket adott ki — ChatGPT Images 2.5 és Nano Banana 2.1 —, és a White Circle szerint ugyanezzel a módszerrel végzett prompt-biztonsági tesztek azt mutatták, hogy „mindkettő jelentősen törhetőbb, mint korábbi verzióik”. Egyik cég sem válaszolt az Ars új megállapításainak megosztása után.
A White Circle támadási módszere képes feltörni a csúcsvédelmeket olyan kategóriákban, mint az explicit tartalom, ami nem vet jó fényt a jelenleg frissülő, más nem kívánt AI-viselkedést, például hackelést blokkoló védelmi rendszerekre — mondta Shilov. A White Circle „munka hipotézise erre az, hogy vagy az újabb modellek kifinomultabbak és képesek szélesebb körű tartalmak generálására, vagy a képesség rovására háttérbe szorult a biztonság” — közölte a White Circle az Ars Technicával.
A White Circle tárgyalásokat folytat kormányzati tisztviselőkkel is a harmadik fél általi biztonsági tesztelésről, amit Shilov szerint kötelezővé kellene tenni. A kötelező független auditok arra kényszeríthetnék a cégeket, hogy prioritásként kezeljék a biztonsági teszteket, amelyeket az elemzők szerint az AI-cégek nagyrészt háttérbe szorítanak, miközben erőforrásaik nagy részét a számítási kapacitásba és az AI-infrastruktúrába fektetik. „Sokkal többet kellene befektetniük a biztonsági intézkedésekbe a modelljeik körül” — mondta Shilov. „És számunkra úgy tűnik, hogy ezt valójában nem teszik meg.”