Új jailbreak-módszerrel könnyebben verhetők át a chatbotok, Stanford-kutatás
Az új preprint bemutatja, hogy az Incremental Completion Decomposition (ICD) három fő teljesítményteszten – az AdvBench, a JailbreakBench és a StrongREJECT – szignifikánsan magasabb támadási sikerességi arányt (ASR) ér el, mint a korábbi jailbreak módszerek.
Az ICD-t a Stanford és az MIT kutatói mutatták be az arXiv 2026. április 30-i preprintjében — írja az arXiv. (ArXiv NLP)
A jailbreak stratégia mélyülése
Az ICD egy lépésről-lépésre haladó jailbreak stratégia, amely a rosszindulatú kérés teljes megválaszolása előtt egy-szavas folytatásokat generál, így fokozza a modell biztonsági mechanizmusainak megkerülését.
Teljesítménytesztek és eredmények
A módszer három változatban létezik: manuálisan kiválasztott egy-szavas folytatás, modell-generált egy-szavas folytatás, valamint a végső válasz előtöltésével kombinált változat, amely mindegyik a teljes válasz előkészítését célozza.
A tesztek alapján az ICD a három teljesítményteszten – az AdvBench, a JailbreakBench és a StrongREJECT – magasabb ASR-t produkál, mint a korábbi jailbreak-technikák; a szerzők szerint ez a javulás a saját kísérleteikre korlátozódik, és külső validáció hiányzik.
A tanulmány elméleti magyarázatot nyújt az ICD hatékonyságára, mechanikus bizonyítékokkal támasztva alá, hogy a lépésről-lépésre történő kérés-sorozat hogyan nyomja el a modell visszautasító mechanizmusait.
A preprint 2026. április 30-án jelent meg az arXiv oldalán, a Stanford és az MIT kutatói által kidolgozott ICD módszerrel, amely a következő kutatási lépésként a mechanikus ellenőrzési keretrendszer beépítését javasolja a jövőbeni LLM-ekbe, például a Meta LLaMA modellbe.