Musubi 50 ezredmásodperc alatt moderál tartalompolitikát új döntési modellel

A PolicyLM-1.7B hasonló költséggel és sebességgel működik, mint a legtöbb közösségi platformon használt AI-osztályozó rendszerek, miközben a modern LLM-ek rugalmasságát is megőrzi. Ez azt jelenti, hogy a tartalompolitika változásai esetén nem szükséges új betanítás, ami lehetővé teszi a gyors iterációt a tartalommoderálási szabályok módosításakor — közölte a TechCrunch.

Azonnali alkalmazás és proaktív címkézés

Filip Jankovic, a Musubi társalapítója és vezető AI-tisztje szerint a modell platformkezelők számára is hasznos, mivel proaktívan címkézhetik a tartalmakat. „A termékcsapatok jobban meg akarják érteni, mi történik a platformjukon, különösen, mivel a tartalom mennyisége exponenciálisan növekszik” — mondta Jankovic. „Az, hogy mindezt nagyon skálázható, testreszabható módon címkézhetik, rendkívül hasznos.”

Bináris kimenetek és piaci kontextus

A döntési modellek az AI-világban népszerűvé váltak a TypeSafe AI Jev modelljének szeptemberi megjelenése óta, amelyet nem sokkal követett az OpenAI és az Amazon versengő döntési modelljei. Ezek a modellek nem szöveget, hanem kimeneti valószínűségeket adnak ki, bár a PolicyLM-1.7B esetében ez egy bináris ítélet: a tartalom vagy a kategóriába tartozik, vagy nem.

A modell kimenetének előre meghatározott választartományra korlátozása révén a döntési modellek gyorsabban és olcsóbban futnak, mint a nagy nyelvi modellek, miközben megőrzik a transzformer architektúra rugalmasságát. Az egyik korai felhasználási eset az AI-ügynökök hibáinak visszaszorítása, így természetes, hogy ugyanezt a technológiát az emberi hibákra is alkalmazzák.

Jankovic érdeklődése a döntési modellek iránt már a Jev megjelenése előtt elkezdődött, egy korábbi GLiNER projektig nyúlik vissza, amely sok hasonló technikát alkalmazott. A termékbejelentésben olvasható, hogy a PolicyLM-1.7B ugyanilyen típusú modell, kifejezetten tartalommoderálásra betanítva, amelyet futtathat magának.