Új eszköz tisztítja a Claude 5-ös modell kimenetét helyi LLM-mel
A Vomit nevű eszköz a Claude 5-ös modell olvashatatlan token-kimenetét alakítja át olvasható angol szöveggé, egy helyi LLM-en keresztül futtatva.
A Vomit teljesen lokálisan fut, nem küld adatokat külső szerverekre, és nincs szüksége semmilyen külső függőségre. Az eszköz futtatása közben a helyi LLM csak azt látja, amit Claude kommunikálni próbál, így előfordulhat, hogy az LLM téves következtetéseket von le, vagy „hallucinál” – közölte a fejlesztő a GitHubon. (Hacker News)
Futtatási környezet és korlátok
A projekt fejlesztője, zachahn szerint az eszköz viszonylag lassú, és jelenleg csak macOS rendszereken tesztelték. Felmerül annak a lehetősége is, hogy a felhasználó teljesen elmulasztja Claude eredeti üzenetét. Az eszköz futtatása runtime állapotot nem módosít, kivéve, hogy ideiglenes fájlokat ír a TMPDIR-be.
Telepítés és ajánlott konfiguráció
A Vomit telepíthető a `go install github.com/zachahn/vomit@latest` paranccsal, majd a `vomit init` paranccsal lehet beállítani a kapcsolatot a helyi LLM-mel. Az eszköz működik Llama.app, Ollama vagy bármely OpenAI API-kompatibilis LLM-mel. A fejlesztő a Llama.app és a GPT-OSS 20B modell használatát ajánlja.