Gyorsabban és olcsóbban vonja ki az adatokat a dokumentumokból a Cloudflare új AI-modellje
Az előzetes verzióban elérhető Clairic egyetlen menetben dolgozza fel a kért mezőket, míg a teljes lánc 19,3 másodperc alatt fut, és hamarosan a nyílt súlyok is megjelennek a Workers AI platformon.
A Cloudflare bemutatta a Clairic nevű AI-modelljét, amely a cég szerint gyorsabban és olcsóbban képes adatokat kinyerni dokumentumokból, mint a hagyományos nagy nyelvi modellek (LLM). A Clairic jelenleg előzetes verzióban érhető el a Workers AI platformon, hamarosan pedig a nyílt súlyok is megjelennek. (The Decoder)
A felhasználók megnevezhetik a kívánt mezőket – például rendelési számot vagy számla végösszeget –, és a Clairic a megfelelő formátumban, egy magabiztossági pontszámmal együtt adja vissza a talált értékeket. Ellentétben a hagyományos LLM-ekkel, a Clairic nem tokenenként generál szöveget, hanem minden mezőre egyszeri feldolgozással válaszol. Ha egy érték hiányzik, a modell „null” értéket ad vissza. Az adatkivonáson túl egyszerű számításokat, becsléseket és előrejelzéseket is képes végezni.
A Clairic célja, hogy az LLM-ek és más „System One” modellek, mint a Jev, mellett egy nagyobb „agent chain” részeként működjön. Például egy panaszlevél feldolgozásakor a Clairic kinyerheti a rendelési számot, az összeget és a kárt, majd megbecsülheti a javítási költséget.
Ezt követően a Clef döntési modell a vállalati szabályok alapján választ a visszatérítés és a javítás között, végül pedig a GLM-5.3 írja meg a választ az ügyfélnek. A Cloudflare szerint ez a lánc 19,3 másodpercet vesz igénybe, míg a GLM-5.3 önmagában 61,7 másodpercet igényel mindhárom lépésre, és majdnem kétszer annyiba kerül.
A Cloudflare ugyanakkor megjegyzi, hogy a Clairic jelenleg még nem képes megbízhatóan hosszabb számítási láncok kezelésére. Fejlesztőknek javasolják, hogy ezeket egyelőre saját kódban futtassák le. A modell előzetes verziója a Workers AI-n érhető el, a nyílt súlyok kiadása pedig később várható.