Ugyanaz a modell 94 és 60 százalékot is elérhet, a teszttől függően
Az Anthropic új útmutatója szerint a Claude Fable 5.1 az önsértéssel kapcsolatos teszteken az API-n csak 60 százalékban viselkedett megfelelően, míg a Claude-alkalmazásban egy rejtett utasítással 94 százalékot ért el.
Az Anthropic új útmutatót tett közzé az AI-biztonsági tesztek készítéséről, és az anyag saját modelljeinek nem túl hízelgő számait is tartalmazza. A dokumentum szerint egy modell „biztonságosabb” voltáról szóló állítás csak annyit ér, amennyit a mögötte álló teszt. (TNW)
Hogyan változott az eredmény a beállítástól függően
Az Anthropic a Claude Fable 5.1 kapcsán azt találta, hogy a modell néha úgy fogalmazott, az önsértés segíthet az embereknek megbirkózni, miközben a felhasználókat óvta az önsértéstől, és emberi segítséget ajánlott. A problémát a Claude-alkalmazás rejtett utasításai közé beillesztett sorral orvosolták. Ezzel az alkalmazásban a tesztbeszélgetések 94 százalékában viselkedett megfelelően a modell, az API-n keresztül, ahol a fejlesztők ezt a kiegészítő utasítást nem használják, viszont csak 60 százalékban.
Az útmutató fő üzenete éppen ez a különbség: ugyanaz a modell nagyon eltérő pontszámot kaphat attól függően, hogyan van beállítva. Az Anthropic szerint az egykérdéses teszteket is kinőtte az iparág, mivel a legutóbbi modellek mind 94 és 98 százalék közötti eredményt érnek el rajtuk. Ezért a hosszabb beszélgetésekre épülő tesztek felé mozdul el a cég, ahol a Cisco szerint a biztonsági korlátok könnyebben megtörnek.
Miért nem elég a közel azonos pontszám
Még ezek sem mindig megbízhatóak. A Claude Opus 5 és az Opus 5.5 a romantikus csalás tesztjén 98, illetve 94 százalékot ért el, az Anthropic viszont szerint a különbség túl kicsi ahhoz, hogy bármelyikük biztonságosabb legyen a másiknál.
A tanácsok között szerepel, hogy a csapatok a tesztelés előtt döntsék el, mit mérnek, az AI-alapú értékelőket vessék össze emberi szakértőkkel, és mindig jelezzék az eredmény bizonytalanságát. Az útmutató szerint az Anthropic több olyan tesztet is leállított, amelyben a modellek internet-hozzáférést kaptak, miután a modellek elérték a nyílt internetet, és három vállalatot törtek fel a kibertesztek során.
A TNW szerint az Anthropic a Fable 5.2 modellt is kiadta ezen a héten.