Sebastian Raschka új videokurzust indít a Qwen3-alapú érvelő modellek építéséről
A Sebastian Raschka, PhD által jegyzett, 8 videóból álló sorozat bemutatja, hogyan építhetők fel az érvelő modellek a semmiből, beleértve az értékelést, a reinforcement learninget és a desztillációt.
A kurzus a „Build Reasoning Model (From Scratch)” című könyv kísérőanyaga, de önállóan is követhető. Raschka szerint a modern LLM-ek túlnyomó többsége valójában érvelő modell, amelyek az AI-ügynökök „motorjaként” szolgálnak, lehetővé téve a komplex problémamegoldást. A kurzus célja, hogy mélyrehatóan megértesse a működési elveket a kódimplementációkon keresztül. (Ahead of AI)
Az érvelő modellek szerepe az AI-ügynökökben
Raschka kiemeli, hogy az érvelő modellek a hagyományos LLM-ek továbbfejlesztett változatai, amelyeket poszt-tréninggel, például reinforcement learninggel tesznek képessé összetettebb feladatok megoldására. Ezek a modellek, amelyek klasszikusan matematika és kódolás terén jeleskednek, de képességeik más területekre is általánosíthatók, az AI-ügynökök „motorjaként” funkcionálnak. Az ügynökök szoftveres keretrendszert biztosítanak az érvelő modell köré, lehetővé téve nagyobb léptékű feladatok, például kódolási projektek vagy utazásszervezés elvégzését.
A kurzus felépítése és előfeltételei
A nyolc videóból álló sorozat a Qwen3 0.6B modell betöltésével kezdődik, majd a szöveggenerálás, a KV-gyorsítótár és a modellkompiláció implementációját mutatja be a hatékonyság növelése érdekében. A későbbi videók a reinforcement learning és a desztilláció módszereit vizsgálják. A kurzus követéséhez ajánlott a Python és a PyTorch ismerete, bár a korábbi „Build a Large Language Model (From Scratch)” kurzus nem feltétlenül szükséges. A korai példák CPU-n is futtathatók, de a későbbi tréningekhez GPU ajánlott.
A kurzushoz tartozó „Build a Reasoning Model (From Scratch)” című könyv részletesebb magyarázatokat és gyakorlatokat kínál. A videók és a könyv együttes használata a legmélyebb tanulási tapasztalatot nyújtja.