Korlát nélküli entitások felismerésére képes a Fastino GLiNER2.5
A Fastino GLiNER2.5 modellje a span-enumeráció helyett határjóslással határozza meg az entitások kezdetét és végét, eltávolítva a maximális entitáshossz-korlátot és 4096 szavas kontextust engedélyezve.
A fejlesztők három, Apache 2.0 licenc alatt kiadott modellt tettek elérhetővé a Hugging Face-en: 74M, 194M és 287M paraméteres változatokat. A kisebb méretű modellek, a 74M és a 194M paraméteres verziók standard CPU-s gépeken is futtathatók, így GPU-s költségvetés nélkül is lehetővé teszik az információkinyerést. (MarkTechPost)
Technikai háttér és telepítés
A modell telepítése `pip install "gliner2[local]"` paranccsal történik, és futtatható CPU-n, CUDA-n vagy MPS-en (Python 3.10+ szükséges). Jelenleg nincs olyan szolgáltató, amely hosztolná a modelleket, így az önálló üzemeltetés az elérhető telepítési út. A nagyobb szervezetek számára a modell finomhangolható, privátan hosztolható alternatívát kínál a tokenalapú LLM-kivonatoláshoz.
Teljesítmény és alkalmazási területek
A GLiNER2.5 különösen hasznos jogi és szerződéses műveletek, egészségügyi és klinikai dokumentációk, pénzügyi szolgáltatások, biztosítási igények, ügyfélszolgálat és AI-biztonsági eszközök terén. Alkalmazható többek között személyes adatok (PII) felismerésére és elrejtésére, szerződéses záradékok kinyerésére, tudásgráfok építésére ügynökök memóriájaként, ügynök- és modellirányításra, valamint klinikai entitások kinyerésére, beleértve az elutasítást és az adagolási attribútumokat.
Az új képességek közé tartozik a hosszú kontextusú kinyerés (akár 4096 szó), a korlátlan entitáshossz, az egységes entitás- és relációkivonás, a korlátozott osztályozás és a span-specifikus attribútumok. A korábbi GLiNER modellekkel ellentétben, amelyek fix szélességű jelölőket használtak, a GLiNER2.5 nem szab korlátot az entitások hosszára, így egy negyven szavas kártalanítási záradék kinyerése ugyanannyiba kerül, mint egy kétszavas név azonosítása.
A Fastino által kiértékelt 16 nulladik-shot teljesítményteszten a GLiNER2.5 Multi 56,17-es makró F1-pontszámot ért el, míg a GLiNER2 Multi 56,09-et. A Base változat 54,87-re javult az előző 53,34-ről. Az XNLI teszten a Multi változat 62,30-ra ugrott a korábbi 37,55-ről, ami 24,75 pontos növekedés. A Few-NERD teszten a Base változat 55,14-re javult a 47,22-ről. A román RONEC adatkészleten, amely nem volt az edzés során, szintén javulást mutatott mindkét modell.