Bemutatta 64 GB-os asztali AI-rendszerét az NVIDIA

Az NVIDIA bejelentette a DGX Spark 64GB új konfigurációját, amely az Acer, ASUS, Dell, Gigabyte, HP és MSI gyártók kínálatában érhető el. A GB10 Grace Blackwell szuperchipet tartalmazó asztali AI-rendszer lehetővé teszi a fejlesztők számára, hogy egyetlen gépen futtassanak helyi modelleket és ügynököket, majd két egység összekapcsolásával 128GB memóriát és megnövelt számítási kapacitást biztosítsanak a növekvő munkaterhelésekhez. (MarkTechPost)

A cél az, hogy a nyílt modelleket és folyamatosan aktív AI-ügynököket a felhasználók saját asztalukon futtathassák, ahelyett, hogy mért API-hívásokat használnának. Az ügynökök folyamatosan fogyasztanak tokeneket a szerszámhívások, próbálkozások, hosszú kontextusok és több lépéses tervek miatt. 2026 eleje óta 14-szeresére nőtt a tokenfogyasztás, és minden egyes token díjköteles egy felhőalapú API-n keresztül, míg saját hardveren nincs ilyen költség.

A DGX Spark 64GB megtartja a korábbi verzió GB10 Grace Blackwell szuperchipjét, az NVIDIA CUDA gyorsított AI szoftverkönyvtárát és a ConnectX-7 hálózatkezelést, de 64GB egységes LPDDR5x memóriával rendelkezik a korábbi 128GB helyett. Az NVIDIA szerint ez elegendő a jelenleg legfejlettebb, 30-35 milliárd paraméteres nyílt modellek futtatásához. A 128GB-os DGX Spark továbbra is elérhető nagyobb, egyetlen gépen futó munkaterhelésekhez, míg a 64GB-os egységek kloszterbe kapcsolása növeli a memóriát és a számítási teljesítményt.

Mi van a dobozban?

A GB10 chip egy Blackwell GPU-t párosít 5. generációs Tensor magokkal és egy 20 magos Grace Arm CPU-val. A GPU akár 1 petaFLOP FP4 AI számítási teljesítményt nyújt, kihasználva a ritkaságot (sparsity). A rendszer 64GB egységes LPDDR5x memóriát tartalmaz 273 GB/s memória sávszélességgel, és akár 4TB NVMe M.2 tárolóval is konfigurálható.

Hálózati csatlakozásként egy ConnectX-7 NIC (200GbE), Wi-Fi 7 és Bluetooth 5.3 áll rendelkezésre. Az NVIDIA DGX OS (Ubuntu alapú) operációs rendszerrel érkezik, és mindössze 150 × 150 × 50,5 mm-es méretével és 1,2 kg-os súlyával szabványos fali konnektorról működik, külön hűtés vagy szerverterem nélkül.

Milyen nyílt modellek férnek el 64GB-on?

A 64GB-os hardver mellett a 30 milliárdos paraméterosztályú nyílt modellek is elegendővé váltak az AI-ügynökök munkájához. Ilyen például a Meta Muse Glimmer (29.6 milliárd paraméter), az NVIDIA Nemotron 3.5 Lightning (30 milliárd paraméteres MoE) és az Alibaba Qwen 3.8-27B (27 milliárd paraméter). A Muse Glimmer, amelyet a Meta AI asszisztens mögött álló modellcsalád finomítottak, megbízható szerszámhívásokra, hosszú, több lépéses feladatokra és hibaelhárításra optimalizált. Bár a teljes BF16 Glimmer több mint 55GB-ot igényel, a ~17GB-os kvantált verzió a praktikus választás 64GB-on.

Öt dolog, amit egy gépen építhetsz

1. Folyamatosan aktív személyi ügynök: Telepítsd a Hermest és csatlakoztasd a Muse Glimmerhez vagy a Nemotron 3.5 Lightninghez, hogy éjszaka triázsoljon új hibákat, reprodukáljon teszteket és összefoglaljon dokumentumokat. 2. Kódtárra finomhangolt kódoló modell: A QLoRA segítségével egy 70 milliárdos modellt finomhangolhatsz saját kódbase-eden, belső dokumentumokon és múltbeli PR-eken. 3. Naprakész modellértékelő pad: Húzd le az új nyílt súlyú modelleket Ollama vagy vLLM segítségével, futtasd saját kérdés-sorozatodat, és mérd az pontosságot, a válaszidőt és a sebességet. 4. Több modellből álló ügynökcsapat: Futtass egy routert és egy fő érvelő ügynököt, amelyek súlyai összesen 23GB-ot foglalnak el, a többit pedig a KV gyorsítótár, az operációs rendszer és a szerszámfolyamatok fedezik. 5. Edge és robotikai prototípusok: Finomhangolj egy látótranszformert egy speciális feladatra, majd vezesd be egy NVIDIA Jetson eszközre az edge-en.

Kloszterezés NVIDIA Sync-kel

Minden DGX Spark ConnectX-7 hálózattal rendelkezik 200GbE sebességgel. Két 64GB-os DGX Spark egység összekapcsolása 128GB memóriát és akár 2 petaFLOP FP4 számítási teljesítményt biztosít. Az NVIDIA Sync Cluster Assistant egyszerűsíti a beállítást, és akár 4 rendszer is csatlakoztatható. Az NVIDIA becslése szerint a kloszterezés megközelítőleg felére csökkenti az első token válaszidőt, és közel lineárisan skálázódik a finomhangolás során. Az NVIDIA 2026. október 23-án tervezi a rendszer piacra dobását.