ChatGPT-társalkotó indít új AI-modellt, amely programozási logikát automatizál

A TypeSafe AI, amelyet a ChatGPT egyik társalkotója, Diogo Almeida alapított, kilépett a fejlesztői csendből és bemutatta a Jev modellt. Az új AI-megoldás a programozási logikai döntések automatizálására szolgál, párhuzamos mintavételezési architektúrát használva. (AI News)

A Jev modell célja, hogy a szoftverrendszerekben futtathatóvá tegye a strukturált, valószínűségi döntéseket, közvetlenül a production kódokon belül. A modell elhagyja a hagyományos szöveggenerálást, és bemeneti unstructured state-ből egyetlen párhuzamos lekérdezéssel ad ki type-safe structured értékeket. Ez megakadályozza a szintaktikai típushibákat és a kimeneti téveszméket.

Diogo Almeida, a TypeSafe alapítója szerint a Jev egy „határ-intelligencia függvényhívás”: unstructured state bemenet, typed probabilistic döntések kimenet. A fejlesztők a modell segítségével elkerülhetik a nyelvi modellek használatát olyan rendszerekben, ahol determinisztikus logikára van szükség.

Jev modell architektúra: Hogyan működik a párhuzamos mintavételezés

A platformot a Reinforcement Learning for Calibrated Decisions (RLCD) nevű alternatív képzési módszertan köré építették. Ellentétben a hagyományos modellekkel, amelyek emberi visszajelzések (RLHF) vagy ellenőrizhető jutalmak (RLVR) alapján tanulnak, a Jev-et arra képezték, hogy kalibrált valószínűségeket produkáljon a végrehajtási logikára. Ez biztosítja, hogy a visszaküldött megbízhatósági pontszámok közvetlenül korreláljanak a kimeneti pontossággal.

Az autoregresszív tokengenerálástól eltérően a Jev egy hardver-tudatos párhuzamos mintavételezőt használ, amely minden strukturált értéket egyidejűleg értékel ki és szállít le. A strukturális korlátozás az előre definiált sémákra szűkíti a kimeneteket, kiküszöbölve a hagyományos nagy nyelvi modellek (LLM) bevezetésekor szükséges elemző folyamat-okat és védőrétegeket.

Valós idejű Jev bevetési tesztek

A belső értékelések szerint a modell végponttól végpontig terjedő válaszidői 70–500 milliszekundum között mozognak, szemben a konvencionális LLM-ek 3–329 másodperces átlagával. A publikált munkafolyamat-értékelések, amelyek fix számítási grafikonokon futottak, akár 193,6-szor gyorsabb végrehajtási sebességet mutattak a GPT-6 Astra és a Fable 5.1 modellekkel összehasonlítva.

A bemeneti feldolgozási költségek millió tokenenként 0,042 dollárra rúgnak, ami jelentős csökkenés a hagyományos konvencionális modellek 0,20 és 10 dollár közötti áraihoz képest. Mivel a párhuzamos mintavételezés strukturált állapotokat generál autoregresszív tokengenerálási lépések nélkül, a TypeSafe a kimeneti tokeneket díjmentesen biztosítja.