ÉlőUtoljára: 1 perceMa: 9
Modellek & LLMfrissítve: 03:17

Az Alibaba Qwen 3.8 27B modellje túlzottan gondolkodik alapértelmezetten

Az Alibaba Qwen kutatólaborjának új, Apache 2.0 licencű, 27 milliárd paraméteres Qwen 3.8 27B modellje alapértelmezetten „xhigh” reasoning erőfeszítést végez, ami drasztikusan megnöveli a generálási időt.

Az Alibaba Qwen 3.8 27B modellje túlzottan gondolkodik alapértelmezetten
Fotó: Growtika / Unsplash
forrás: Simon Willison·AI Forradalom szerk.·
Megosztás

Az Alibaba Qwen 3.8 27B modellje 17 GB-os méretével kiválóan alkalmas lokális futtatásra, és már elérhető az LM Studio és az OpenRouter platformokon is. (Simon Willison)

Simon Willison tesztjei azt mutatták, hogy a modell egy egyszerű pelikán SVG generálása során 21 percig gondolkodott, 22 276 reasoning tokent felhasználva, míg ugyanaz a feladat kikapcsolt elemzéssel mindössze 137 másodpercet vett igénybe.

Az alapértelmezett beállítások problémái

A Qwen 3.8 27B alapértelmezetten a „xhigh” reasoning erőfeszítési szintet használja, ami bonyolult feladatoknál alapos elemzést tesz lehetővé, de a hétköznapi feladatoknál is „spektakuláris túlgondolkodást” eredményez. A túlzott elemzés miatt a modell gyorsan kimeríti a tipikus, 8192 tokenes kontextuslimiteket, így a probléma megoldásához a maximális, 262 144 tokenes kontextushossz betöltése szükséges.

Látásfeladatok és új eszközök

A modell látásfeladatokban, például a képeken lévő objektumok köré rajzolt bounding boxok azonosításában kiemelkedően jól teljesít. Egy fotón lévő pelikánok azonosítására írt promptra a modell pontosan visszaadta a bounding boxokat. Ezt a képességet kihasználva Willison egy új, offline futtatható eszközt is épített a Qwen 3.8 27B segítségével, amely képes képek URL-jéből és JSON adatokból vizuális címkézést végezni.

Willison a sebesség és a kimeneti minőség egyensúlyának elérése érdekében a „low” vagy „medium” reasoning szintek használatát javasolja.

Forrás

Feldolgozott sajtóforrás·Simon Willison

Eredeti cikk megnyitása →

Ez a cikk a fenti sajtóforrás alapján készült AI-összefoglalóval.

tetszett a cikk? oszd meg →
Megosztás

Tetszik az oldal? Támogasd a fejlesztést

Az AI Forradalom egy automatizált pipeline: napi adatgyűjtés, LLM-feldolgozás és infrastruktúra fenntartása valódi költségekkel jár. Ha értékesnek találod a tömör, naprakész AI-összefoglalókat, egy kávé sokat segít.

Támogatom