TokenEconomizer akár 30,9%-kal csökkenti a kódoló ügynökök költségét

A TokenEconomizer egy nyílt forráskódú költségkontroller, amely a Microsoft Research és az UC Berkeley kutatócsoportja által került kiadásra. A bővítmény a kódoló ügynökök munkameneteit elemzi, és a későbbi futtatásokban a felesleges token-használatot csökkenti — írja a MarkTechPost.

Költségcsökkentés az SWE-Bench teszten

A 277 SWE-Bench feladatra kiterjedő vizsgálat 18,4 %-tól 30,9 %-ig mutatott átlagos költségmegtakarítást öt különböző ügynök-modell kombinációban. A legjobb eredmény 30,9 %-os csökkenés Claude Code-val Opus 4.8 modell esetén, míg a Pass@1 pontszám legfeljebb 1,0 ponttal romlott – a szerzők szerint.

Működési mechanizmusok

TokenEconomizer három szabályt alkalmaz: micro-skill tények, amelyek egy-soros, regexalapú ellenőrzésekkel szűrik a későbbi trace-eket; eszköz-pruning, amely a ritkán használt eszközöket három egymást követő üres feladat után elrejti; valamint a failure-loop beavatkozás, amely a futtatási költségkeretet a sikeres futások 90-percentilisének 1,25-szeresére állítja, és a beragadt ügynököket átirányítja vagy leállítja.

Telepítés és kompatibilitás

A bővítmény négy fő ügynökkel működik – Claude Code, Codex, GitHub Copilot CLI és Pi – és Python 3.10 vagy újabb verziót igényel. GPU vagy külön API-kulcs nem szükséges; a telepítés egyszerű: a kívánt ügynök marketplace-jébe fel kell venni a "tokeneconomizer" csomagot, majd a helyi ~/.tokeneconomizer könyvtárban tárolódik a tanult adat.

Más teljesítménytesztek is kedveznek

A SWE-Bench-en kívül a Web-Bench teszten 16,0 %-tól 21,2 %-ig, a CredData-n 16,5 %-tól 19,6 %-ig csökkent a token-költség, míg a ReposVul auditokban csak 6,4 %-tól 9,3 %-ig volt megtakarítás – a szerzők szerint a rövidebb futtatások kevesebb takarítandó felesleget hagynak.

A legnagyobb egyedüli megtakarítást a tool pruning biztosítja, amely 13,2 %-tól 17,7 %-ig csökkenti a költséget Claude Code-nál, az Opus 4.8 modellben elért 30,9 %-os csökkenés pedig a jelenlegi legjobb eredmény.