Új Alibaba-megoldás 99%-kal csökkenti az AI-ügynökök tokenfogyasztását

A nagyvállalati AI-rendszerek egyre komplexebb munkafolyamatokat kezelnek, ami kihívást jelent a részfeladatok megfelelő eszközökhöz és képességekhez való irányításában. Az Alibaba kutatói által kifejlesztett SkillWeaver keretrendszer erre kínál megoldást: létrehoz egy végrehajtási grafikon, és kiválasztja a megfelelő képességeket az egyes csomópontokhoz. A kutatók által végzett kísérletek szerint az új megközelítés jelentősen növeli a pontosságot, miközben a tokenfogyasztás több mint 99%-kal csökken a naiv megközelítéssel szemben, amely az egész eszköztárat teszi elérhetővé az ügynökök számára. A VentureBeat közölte a részleteket.

A készségek útvonalának kihívása

A modern LLM-ügynök architektúrákban a készségek kulcsfontosságúak. Ezek moduláris, újrafelhasználható eszközk specifikációk, amelyek strukturált természetes nyelvű dokumentációt használnak. Ahogy a vállalati ügynökök hatalmas eszköztárakkal integrálódnak, a felhasználói lekérdezések helyes készségekhez való irányítása nehéz feladattá válik. Az egész könyvtár LLM-nek való kitétel rendkívül hatástalan, gyorsan túlterheli a kontextus korlátokat és több százezer tokent fogyaszt. A jelenlegi eszközkiválasztó keretrendszerek ezt API-lekérdezéssel, dokumentáció-egyeztetéssel vagy hierarchikus struktúrákkal próbálják megoldani, de ez a paradigma nem elegendő a valósághoz, mivel a lekérdezések összetettek. Egy tipikus üzleti kérés, mint például „Töltsd le az adatkészletet, alakítsd át, és hozz létre vizuális jelentéseket”, nem teljesíthető egyetlen eszközzel.

Kapcsolódó: Qwen gondolkodási lánc

A SkillWeaver és az SAD működése

A kutatók a több készséget igénylő komplex feladatok kezelését „kompozicionális készség-útvonalnak” keretezik. A SkillWeaver három szakaszban orchestrálja a folyamatot: Decompose (Bontás), Retrieve (Lekérés) és Compose (Összeállítás). Először egy LLM lebontja a felhasználói kérést részfeladatokra. Ezt követően egy embedding modell összehasonlítja az egyes részfeladatokat a készségkönyvtárral, hogy előhívja a legjobb jelölt eszközök rövidlistáját. Végül egy tervező értékeli a jelölteket, ellenőrzi az inter-készség kompatibilitást, és létrehoz egy végrehajtható tervet, mint egy Irányított Ciklusmentes Grafikon (DAG).

Kapcsolódó: szimulált AI-ügynökök

A folyamat kulcsa az Iterative Skill-Aware Decomposition (SAD), egy visszacsatolási hurok. Az SAD úgy működik, hogy az LLM először elkészít egy tervet, előzetes keresést végez a lazán illeszkedő készségek megtalálására, majd ezeket a visszakeresett készségeket visszacsatolja az LLM-nek, hogy finomítsa a lebontást és a szókincset a valós eszközökhöz igazítva. A kutatók által végzett kísérletek szerint az SAD jelentősen javította a pontosságot: egy 7 milliárdos paraméterű modell 51,0%-os pontossága 67,7%-ra ugrott, míg egy nagyobb modell, a Qwen-Max pontossága 92%-ot ért el. Az SAD különösen a négy-öt különálló készséget igénylő „nehéz” feladatoknál javított 50%-kal a pontosságon.

Kapcsolódó: Zhenwu M890 chip

A kutatók a CompSkillBench nevű teljesítményteszten értékelték a SkillWeaver teljesítményét, amely 300 többlépéses lekérdezést tartalmazott, egy 2209 valós készségből álló könyvtárral. Az eredmények azt mutatják, hogy a tokenfogyasztás több mint 99%-kal csökkent a naiv megközelítéshez képest. A nagyobb, 14 milliárdos paraméterű modell pontossága is csökkent, ha nem volt irányítva, de az SAD segítségével javult. Ez azt sugallja, hogy az ügynök és az eszközök szókincsének összehangolása gyakran hatékonyabb, mint egy nagyobb LLM használata.

Kapcsolódó: Qwen3.6 kódolás

A SkillWeaver bevezetése jelentős előrelépést jelenthet az AI-ügynökök hatékonyságában, különösen a komplex, több eszközt igénylő vállalati alkalmazásokban. A rendszer várhatóan 2026 végén válik szélesebb körben elérhetővé.

Kapcsolódó: Anchor rendszer