A Microsoft Surface Laptop Ultra helyben futtat 120 milliárd paraméteres AI-modellt
A tesztelő szerint a laptop „meglepően használható” maradt a nagy modellek futtatása közben, miközben a teljes művelet akkumulátorról is, felhőalapú feldolgozás nélkül zajlott.
A Surface Laptop Ultra a felhasználó mindennapi munkája közben is használható maradt, miközben a 27 milliárd paraméteres sűrű modellek futtak. A csúcskategóriás AI-feladatok így egy fogyasztói szintű laptopon is elvégezhetők, felhőszolgáltatások nélkül. (The Neuron)
Hardver és futtatási sebesség
A gépet az NVIDIA RTX Spark N1X processzor hajtja. A tesztelő szerint a 120 milliárd paraméteres multimodális modell másodpercenként 33 tokent generál. A pontos akkumulátor-üzemidő a 120 milliárdos modell futtatása közben nem volt kvantifikálva.
Mérés és függetlenség
A teljesítményadatok a tesztelő saját mérésein alapulnak, és nem függetlenek. A teljes művelet a gépen történt, akkumulátorról is, felhőalapú feldolgozás, bérelt GPU-k vagy tokenenkénti API-díjak nélkül.