4,6-szor gyorsabb AI-fejlesztést ígér az NVIDIA új RTX Spark platformja

Az NVIDIA RTX Spark egyetlen gépen teszi lehetővé a kódolást, tesztelést és telepítést, akár 4,6-szor gyorsabb teljesítménnyel. Az új platform a Microsofttal közösen bővíti a Windows on Arm szoftverkörnyezetet, és magában foglalja az első PyTorch-CUDA buildot, a Python 3.15-öt, valamint több mint 2000 Conda csomagot.

Az RTX Spark a GB10 rendszerchipet és akár 128 GB egységes memóriát kínálja, ami lehetővé teszi a fejlesztők számára, hogy helyi kódolóügynököket futtassanak, AI-keretrendszereket érjenek el, és mindezt egyetlen PC-n végezzék el. Ez akár 4,6-szor gyorsabb kódolóügynök-teljesítményt, 2,7-szer gyorsabb finomhangolást és 1,8-szor gyorsabb kódkompilálást eredményez az Intel Panther Lake 12Xe-hez képest. A platform 1 PetaFLOP FP4 AI számítási kapacitást és 128 GB egységes memóriát biztosít.

Új modellek és gyorsabb döntéshozatal

A platformhoz készült a Nemotron 3.5 Bolt 74B-A9B 24GB modell, egy 74 milliárd paraméteres, 2 bites kvantált, keverék-szakértő (MoE) modell, amelyet kifejezetten helyi ügynökök futtatására terveztek. Ez a modell a llama.cpp, vLLM, Ollama, Unsloth és LM Studio platformokon futtatható. A llama.cpp és az Unsloth által támogatott döntésmodellek akár 200-szor gyorsabban teszik lehetővé az ügynökök számára a cselekvések kiválasztását a hagyományos gondolkodási ciklusokhoz képest.

Kiterjesztett szoftverkörnyezet Windowsra

Az NVIDIA és a Microsoft együttműködésének köszönhetően a Windows on Arm fejlesztői környezet is bővült. Az RTX Sparkkal együtt érkezik az első PyTorch-CUDA build, a natív Python 3.15, több mint 2000 Conda csomag, valamint az Arm-kompatibilis verziók a top 15 000 Python csomag több mint 97%-ához. Az NVIDIA CUDA-X könyvtárai, mint a FlashInfer és a NeMo, szintén elérhetőek, és az NVIDIA Skills révén az ügynökök GPU-gyorsítású alkalmazásokat fejleszthetnek mély CUDA ismeretek nélkül.

A helyi kódolóügynökök, mint a GitHub Copilot, a Pi és a JetBrains Junie Local, zökkenőmentesen telepíthetők az RTX Sparkra, akár helyi modellekkel is. A HydraFusion prompt-router frissült a helyi modellek támogatására, és az új MAI 1.1 Coding Flash modell is futtatható helyben. Az RTX Spark a 150 millió RTX PC-re, valamint a felhőben futó NVIDIA GPU-kra történő telepítést is támogatja.

Az RTX Spark rendszerekkel kapcsolatos további információk és vásárlási lehetőségek az NVIDIA Developer weboldalán találhatók. Az AI fejlesztési playbook útmutatást ad a Windows konfigurálásához, az ügynökök beállításához és az NVIDIA Skills csatlakoztatásához.