Hétvenhetvenmilliárd paraméteres nyílt AI-modellt adott ki a Tencent
Az új szövegalapú mesterséges intelligencia 49 milliárd aktív paraméterrel és 1 millió tokenes kontextusablakkal rendelkezik, mérete 1,56 terabájt, elérhetősége a Hugging Face platformon kezdődik.
A Hy4 Preview jelentős növekedést mutat elődjéhez, a júliusi Hy3-hoz képest. A Hy3 modell 295 milliárd teljes paraméterrel, 21 milliárd aktív paraméterrel és 256 000 tokenes kontextussal bírt, mérete pedig 598GB volt.
A modell chat sablonja kétféle érvelési módot határoz meg: az alapértelmezett „high” (magas) és a „no_think” (gondolkodás nélkül). Az előbbi a modell alapértelmezett, részletesebb érvelési folyamatát aktiválja, míg az utóbbi ezt kikapcsolja.
A tesztek során a „high” érvelési móddal a modell egy pelikánt ábrázoló SVG generálására kapott utasítást. Az érvelési nyomkövetésben a modell finomhangolt angol kifejezéseket használt, valószínűleg a tokenhatékonyság érdekében — írja Simon Willison.
A Hy4 Preview elérhető a Hugging Face-on, és a fejlesztők már használhatják a kétféle érvelési móddal.