Emirati arab nyelvre szabott AI-modellt dob piacra az Abu-Dzabi székhelyű TII

Az emírségei arab nyelv, amely a mindennapi kommunikációban, humorban és kultúrában gyökerezik, jelentős kihívást jelent a mesterséges intelligencia számára. A Modern Standard Arabic (MSA) nyelvtani és szókincsbeli különbségei miatt egy MSA-központú modell gyakran nem képes megragadni az emíri dialektus árnyalatait. Ezt a rést hivatott betölteni a Falcon-Emirati-7B, egy speciálisan erre a dialektusra optimalizált modell. (Hugging Face)

A modell a TII korábbi, már sikeres Falcon-H1-Arabic modellcsaládjára épül, amely korábban is új mércéket állított fel az arab nyelvű AI-alkalmazások terén. A Falcon-H1 architektúrája hibrid megközelítést alkalmaz, párhuzamosan futtatva a State Space Models (Mamba) és a Transformer attention mechanizmusokat.

Ez a kombináció lineáris időhatékonyságot biztosít hosszú szekvenciák esetén, miközben megőrzi a Transformer pontosságát, ami különösen fontos az arab nyelv gazdag morfológiája miatt. A Falcon-H1 család 3B, 7B és 34B paraméteres változatokban érhető el, akár 128K és 256K tokenes kontextusablakokkal, és már korábban is tanították MSA, valamint különböző arab dialektusok (Gulf, Levantine, Egyptian, Maghrebi) keverékén.

A Falcon-Emirati-7B a 7B paraméteres változatot használja, amelyet a minőség és a költséghatékonyság optimális egyensúlyaként választottak. A 34B modell valószínűleg jobb minőséget nyújtana, de a magasabb képzési és futtatási költségek miatt nem tekinthető ideálisnak egy dialektus-specifikus csevegőmodellhez. A 3B modell pedig nem kínál elegendő kapacitást a mélyreható kulturális és nyelvi megértéshez. A 7B méret tehát a legjobb kompromisszumot jelenti a minőség és a költségek között.

A dialektus-adaptáció kihívásai

Az emíri arab elsősorban beszélt nyelv, írott formája kevésbé elterjedt az online térben, mint az MSA vagy más dialektusok. Ez azt jelenti, hogy kevesebb nyers adat áll rendelkezésre a tanuláshoz. Emellett a jelentés gyakran nem szó szerinti: az idiómák, közmondások és kulturális utalások a megosztott közös tudásra építenek, nem a felszíni szókincsre.

Nincs egyértelmű recept arra, hogy mennyi dialektus-specifikus adat elegendő, hogyan kell azt MSA-val és általános arabbal keverni, vagy melyik képzési szakasz a legfontosabb a dialektus elsajátításához. Emiatt a Falcon-Emirati-7B fejlesztése jelentős kísérletezést és próbálkozást igényelt.

Adatgyűjtés és képzési módszertan

A TII egy speciális emíri adatfeldolgozó rendszert hozott létre a Falcon-H1-Arabic alapmodellre építve. Három fő forrásra támaszkodtak: autentikus emíri webes adatokra fókuszáltak, amelyeket kifejezetten a dialektusban írtak, nem pedig MSA-ból fordítottak vagy átírtak. Emellett MSA nyelven írt, de az emíri kultúrára, örökségre és nyelvre vonatkozó anyagokat is felhasználtak, hogy a modell megértse a kontextust. A hiányzó területek lefedésére pedig szigorú szabályokkal és szótárakkal vezérelt szintetikus adatok generálására került sor, hogy az eredmény autentikusan emíri legyen.

A képzési stratégiát is kísérleti úton alakították ki, tesztelve a dialektus-adatok arányát és a képzés különböző szakaszait. Az automatikus értékelés mellett kulcsfontosságú volt az emíri anyanyelvűek visszajelzése, akik nemcsak a pontosságot, hanem a természetességet, a hangnemet és a kulturális megfelelőséget is vizsgálták. A modell teljesítményét az Alyah (الياه) teljesítményteszten is mérték, amely 1173 mintát tartalmazó, kifejezetten az emíri dialektus képességeit értékelő teszt.

A Falcon-Emirati-7B modell 2026. október 6-án jelent meg, és az emíri arab nyelvű AI-alkalmazások, például csevegőbotok és tartalomgeneráló eszközök fejlesztését célozza.