Láthatóvá teszi a gondolatmenetet az LLM új verziója

Simon Willison ma reggel kiadta az LLM 0.32-t, a projekt első megjelenése óta eltelt legjelentősebb új verziót. Az új kiadás támogatja a látható okfejtési nyomokat, szerveroldali szolgáltatói eszközöket, átalakított tartalomcímzésű SQLite naplókat, új modelleket és az OpenAI Responses API által lehetővé tett új funkciókat. Frissült a llm-anthropic, llm-gemini és llm-openrouter bővítmények is.

Fejlesztőknek szóló újdonságok

Az LLM-et futtatva az okfejtési modellek mostantól a standard hibakimenetre írják az okfejtési nyomokat, így láthatóvá válik a modell „gondolatmenete” anélkül, hogy az a kimeneti adatokba kerülne. Ezt a -R/--hide-reasoning kapcsolóval lehet kikapcsolni. Az LLM támogatja a GPT-5.6 modellcsaládot, és az új alapértelmezett modell a „prompt” parancshoz a költséghatékony, de képzett GPT-5.6 Luna.

Szerveroldali eszközök és új API-k

Az LLM immár képes szerveroldali eszközöket használni különböző szolgáltatóktól. Az OpenAI például egy kódfuttatási környezetet kínál, így az LLM képes olyan promptokat futtatni, amelyek ezt kihasználják, például a Python és SQLite verzióinak lekérdezésére. Az OpenAI webes keresési eszközt is kapott. A llm-anthropic bővítmény WebSearch, WebFetch, CodeExecution és AnthropicMCP eszközöket ad hozzá, amelyek lehetővé teszik az API-val való interakciót egyetlen kérés/válasz ciklusban.

Az új llm openai végpont parancs egy eszközt kínál utasítások futtatására bármely OpenAI-kompatibilis végponton, egy sorban. Ezeket nem naplózza, így hasznos lehet egyedi utasítások futtatásához. A Python API-ban korábban minden kérés egyenként küldött üzeneteket tartalmazott, ami elavultnak bizonyult. Az új verzió bevezeti a model.prompt(messages=[]) paramétert, amely teljes üzenettörténetet képes kezelni. Az események streamelése lehetővé teszi a modell válaszának feldolgozását többféle eseménytípusban, mint például okfejtés, szöveg vagy kép.

Új chat-kiegészítési szerver és naplózás

Az új funkciók kombinálásával megvalósult az OpenAI chat-kiegészítési API robusztus implementációja, amely llm-chat-completions-server bővítményként jelent meg. Ez lehetővé teszi az utasítások futtatását az LLM-en keresztül a szerveren keresztül. A nagyobb kihívást a naplózás jelenti, amelyet az új, tartalomcímzésű üzenettároló old meg, hasonlóan a Git-hez. A llm logs és llm logs --json parancsok is frissültek az új formátum kezelésére.

A 0.32-es kiadás számos további fejlesztést tartalmaz, amelyek a kiadási megjegyzésekben részleteznek. A meglévő LLM bővítmények továbbra is működnek, de a modell-szolgáltatóknak frissíteniük kell a 0.32-re az új streamelési rendszer teljes kihasználásához. Simon Willison saját bővítményeit is frissítette, többek között a llm-anthropic 0.26-ot, amely támogatja a Claude 5-ös modelleket és új szerveroldali eszközöket.

A fejlesztések egy részét a Datasette Agent igényei motiválták. Az LLM most már „ügynökformájúnak” tűnik, ahol egy parancssori eszköz képes különféle eszközöket és modelleket keverni egyetlen sorban. Az új verzióban az eszközláncok emberi jóváhagyásra megállhatnak és folytatódhatnak tárolt üzenettörténetből, ami a Datasette Agent számára is fontos. A következő verzióban talán az „ügynök” koncepciója beépül a magba. A frissített llm-anthropic bővítmény jelenleg a 0.26-os verziószámot viseli.