A Mistral Large 4 nyílt súlyokkal támad, 1 ponttal veri a GLM-5.3-at kódolásban

Fejlesztési folyamat és filozófia

A cég szerint az ML4 jelentős fejlődésen ment keresztül az elmúlt három hétben, köszönhetően a megerősítéses tanulásnak és a partnerekkel végzett tesztelésnek. A Mistral hangsúlyozza az „open weight” filozófia fontosságát, amely szerinte elengedhetetlen az üzletmenet folytonosságához, az átláthatósághoz és az auditálhatósághoz. „Nem érzem jól magam egy olyan világban, ahol nincsenek nyílt súlyok” — mondta Pierre Stock, a Mistral tudományos alelnöke. (The New Stack)

Stock szerint az AI az elektromossághoz hasonló, és nem akarjuk, hogy egy oligopólium bármikor elzárhassa az áramot. Az open weight megközelítés biztosítja, hogy a modell akár saját infrastruktúrán, akár megbízható külső rendszeren futtatható legyen, így senki sem tudja kikapcsolni.

Benchmarkok és infrastruktúra

A kódolási képességek mellett az ML4 a kiberbiztonsági benchmarkokon is jól teljesít. A Terminal-Bench 4.0 teszten az ML4 41%-os eredményt ért el, míg a GLM-5.3 40%-ot. A CyberGym E2E teszten a modell 79%-ot szerzett, szemben a GLM-5.3 29%-ával. Stock szerint a modell átlagosan 47%-kal kevesebb tokent használ fel feladatonként, mint a GLM-5.3, ami gyorsabb és olcsóbb feldolgozást tesz lehetővé.

A Mistral már két hónapja, mintegy 3800 Nvidia Grace Blackwell GPU-n dolgozott a modell előkészítésén európai adatközpontjaiban. Az elmúlt három hétben a modell „jelentős javuláson” ment keresztül, amit a csapat megerősítéses tanulási módszerei segítettek elő. A cég szerint az ML4 már most is használatban van automatizált behatolásvizsgálatok támogatására.