100 ezredmásodperc alatt válaszol a TypeSafe új Jev AI-modellje

A TypeSafe bemutatta a Jev nevű új AI-modelljét, amely kifejezetten arra lett tervezve, hogy gyorsan és olcsón válaszoljon egyszerű kérdésekre. A modell három módban működik: Noul (igazságtartalom-értékelés), Score (pontozás egy előre meghatározott szempontrendszer alapján) és Choice (feleletválasztós kérdések megválaszolása). Az ilyen típusú „strukturált döntések” gyakran elegendőek, szemben a hosszabb, komplexebb szöveggenerálással. (AI for Newsroom)

A Jev másodpercek töredéke alatt, akár 100 ezredmásodperc alatt képes válaszolni, ami jelentősen gyorsabb, mint az OpenAI GPT-6-Luna modellje, amely másodperceket vesz igénybe. Költséghatékonyságban is felülmúlja riválisát: egymillió bemeneti tokenre mindössze 0,042 dollárt számol fel, míg a GPT-6-Luna bemeneti tokenjei 0,10–0,20 dollárba, kimeneti tokenjei pedig 0,50–0,75 dollárba kerülnek. Az OpenAI válaszként bejelentette egy dedikált döntési API érkezését a GPT-6-Luna mellé, amely hasonló sebességet ígér, de árazása és elérhetősége még nem ismert.

A Jev potenciális felhasználási területei közé tartozik a tartalommoderálás, szövegosztályozás, adathalmazokban való keresés, de akár a klasszikus Doom játék irányítása is. A modell képességei lehetővé teszik, hogy ne kelljen egy teljes LLM-et futtatni egy egyszerű válaszért, hanem egy kifejezetten erre optimalizált, olcsóbb és gyorsabb megoldást lehessen használni. Helyben, saját eszközön is kipróbálható nyílt forráskódú döntési modellek futtatására az Ollaya szolgál.

A hír szerint az Egyesült Királyságban minden ötödik felnőtt már használ AI eszközöket, például a ChatGPT-t a hírek követésére. Olalla Novoa Ojea, a Prisa Media AI igazgatója szerint a globális szinten zajló geopolitikai verseny és a nagy technológiai cégek érdekei gyakran előtérbe kerülnek az emberközpontú megközelítéssel szemben. A szervezeteken belüli irányítás kulcsfontosságú az AI felelős használatához, míg személyes szinten aggodalomra ad okot a kognitív delegáció hatása a gondolkodásunkra és emberi kapcsolatainkra.

A Marker nevű új szövegszerkesztő is AI-t használ, de a felhasználót tartja a középpontban. A „xxx” jelölővel például a felhasználó jelezheti, hogy egy név vagy kifejezés hiányzik, és a Marker a háttérben megkeresi a lehetséges megoldást, forrásmegjelöléssel. A DeepMind és a Facebook korábbi munkatársai által alapított londoni startup 13 millió dolláros seed-befektetést kapott az Index Ventures vezetésével. A Marker jelenleg béta verzióban érhető el, és várólistás.