98%-os pontosságot ért el a finomhangolt Mistral 7B mellrák-diagnosztikában

Sam Black, a Towards Data Science szerzője egy mellrák-diagnosztikai sablon kitöltésének példáján keresztül mutatja be, hogyan lehet a korábbi 35%-os pontosságot 98%-ra emelni finomhangolással.

A hagyományos megközelítések, mint az erős rendszerüzenetek (system prompts) és a RAG (Retrieval-Augmented Generation) kombinációja, korlátozottan teljesítettek a komplex formátumok és a szigorú sorrendet igénylő feladatoknál. A Claude Opus 4.6 modell, amely nagy mennyiségű kontextust (kb. 30 ezer token) dolgozott fel minden hívásnál, mindössze 35%-os pontosságot ért el. Ez emberi utólagos szerkesztést igényelt volna, ami nem volt fenntartható.

Mikor éri meg finomhangolni?

A finomhangolás akkor válik indokolttá, ha a feladat:

• Szigorú formázási követelményeket támaszt: Olyan komplex, hibákra érzékeny sablonoknál, mint a legacy vállalati dokumentumok, jogi vagy orvosi űrlapok, ahol egyetlen elvétéstől az egész kimenet érvénytelenné válhat.
• Költségérzékeny: Több ezer token használata minden API-hívásnál jelentős költségeket és késleltetést okozhat nagy léptékben. Egy finomhangolt modell internalizálja ezeket a mintákat, csökkentve a szükségletet.
• Összetett instrukciókat és kombinatorikus robbanást foglal magában: Egyszerű korlátok esetén a rendszerüzenetek működnek, de az átfedő szabályok és a hatalmas döntési fák (pl. „ha A, akkor B, de ha C és A, akkor D…”) meghaladhatják az in-context learning képességeit.
• Egyedi hangnemet igényel: Bár ez nem volt a példa tárgya, ügyfélszolgálati ügynökök esetében a specifikus „márkahang” finomhangolással jobban elérhető, mint rendszerüzenetekkel.

A RAG inkább a modell tudását bővíti, míg a finomhangolás a kimeneti viselkedést befolyásolja. Gyakran a kettő keveréke adja a legjobb eredményt, csökkentve a függőséget az egyik vagy másik módszertől.

A LoRA/QLoRA matematikai háttere

A LoRA (Low Rank Adaptation) és származékai, mint a QLoRA, a Parameter Efficient Fine Tuning (PEFT) módszerei. Ezek lényege, hogy nem az egész modellt tanítják újra, hanem csak egy kis részét, jelentősen csökkentve a számítási igényt és a tárolási szükségletet. A módszer a súly mátrixok alacsony rangú (low-rank) dekompozíciójára épít.

Például egy nagy, $W$ súly mátrix helyett két kisebb mátrixot, $A$ és $B$-t tanítanak, így a frissítés csak $BA$ mátrix formájában történik, ami sokkal kevesebb paramétert igényel. A QLoRA ezt tovább optimalizálja kvantálással, ami még tovább csökkenti a memóriaigényt.

A matematikai megértés kulcsfontosságú a hibaelhárításhoz és a megfelelő stratégia kiválasztásához. Például a „rang” (rank) paraméter helytelen megértése túlillesztési problémákhoz vezethet.

A finomhangolás lényegében a modell előképzési feladatának folytatása, de specifikus, kurált adathalmazokkal (prompt-kompleció párok). A cél továbbra is a következő token előrejelzése, de most már a célzott viselkedés elsajátítására.

A szerző egy részletes útmutatót is kínál a technikai implementációhoz és a teljesítmény értékeléséhez egyedi tesztekkel, kiemelve, hogy a finomhangolt Mistral 7B modell a mellrák-diagnosztikai sablonoknál 63 százalékpontos javulást ért el, és eliminálta a korábbi API-költségeket, amelyek becslések szerint 320 ezer dollárra rúgtak volna.