GPT-6 Astra 0,016%-os súlymódosítással 48%-ra növeli a Qwen matematikai pontosságát
A hagyományos finomhangolás több millió tréninglépést igényel, míg az Astra csak 0,016 % súlyt módosítva drámai javulást ér el – a Qwen3.5-0.8B modell pontossága 7,9 %-ról 48,1 %-ra nőtt a MATH-500 teszten.
Az MIT kutatók a GPT-6 Astra modell segítségével közvetlenül a súlymátrixokból olvasnak és módosítanak más AI modelleket, anélkül, hogy a hagyományos, több millió lépéses tréningre támaszkodnának. Az új módszert "Weight-Space Programming"-nak nevezik, ahol a nyelvi modell úgy működik, mint egy szerelő, amely egyes gombokat állít. — írja a The Decoder.
Súlymátrixokból a modell viselkedése
A kutatók négy egyszerű számítógépes játék súlyait adták Astra-nak, és a rendszer pontosan meg tudta határozni, melyik játékot tanították a hálózatnak. Emellett az Astra felismerte a kis képgenerátorok alapformáit, bár néha összekeverte a kitöltött és a körvonalas alakzatokat. A nyelvi modellek esetében a súlyok alapján azonosította, melyik modell a felhasználókkal egyezik, ha a figyelmi mintákat is megfigyelte.
Célzott súlymódosítás a Qwen modellnél
A Qwen3.5-0.8B modell matematikai feladatmegoldó képességét Astra 50 teszt iterációval javította, mindezt egy kódolási környezetben. A módszer csak a súlyok 0,016 %-át változtatta meg, de a MATH-500 teljesítményteszt pontossága 7,9 %-ról 48,1 %-ra emelkedett, az instrukciókövetés pedig 21 %-ról 62 %-ra nőtt. A gondolkodási hurkok, amelyek a modell szöveggenerálását korlátozták, részben megszűntek, bár a maximális szöveghossz túllépése már 93 %-ról egyharmadra csökkent.
Játék-modellek generálása Astra-val
Astra a játék szabályai és forráskódja alapján hozott létre súlyokat három egyszerű játékhoz. A Breakout-játékban a generált modell átlagosan 517 pontot ért el, szemben a hagyományos tréninggel elért 25 ponttal. A Go-játék (9 × 9-es tábla) esetén a 1,5 millió paraméteres hálózat 50 teszt iteráció és legfeljebb 128 gyakorlójátékkal felülmúlta a 20 millió játékos alapú modell teljesítményét. Két további játékban az Astra modell elmaradt a leghosszabb ideig tanított változatok mögött.
Korlátok és további kutatások
Az Astra nem tudott javulást elérni a kisebb, 270 M paraméteres Gemma 3 modellen, amely ritkán szenvedett gondolkodási hurkoktól. A kutatók úgy vélik, hogy a módszer csak meglévő képességek blokkjait képes feloldani, míg a modell alapvetően hiányzó tudását nem lehet csak súlymódosítással hozzáadni. A következő lépésként az MIT kutatók a MATH-500 teljesítményteszt újabb változatán mérik a technika hatékonyságát.