ÉlőUtoljára: 7 perceMa: 9
Modellek & LLMfrissítve: 03:16

Vera Rubin NVL72 rendszerek futnak már az Azure adatközpontjaiban

Az NVIDIA Vera Rubin NVL72 rendszerei már futnak az Azure adatközpontjaiban, az Azure pedig 10 240 GPU-ra skálázta a DeepSeek-V3 betanítását, a cég közlése szerint.

Vera Rubin NVL72 rendszerek futnak már az Azure adatközpontjaiban
Fotó: Christian Wiediger / Unsplash
forrás: NVIDIA Blog·AI Forradalom szerk.·
Megosztás

Az NVIDIA és a Microsoft kiterjeszti együttműködését az Azure felhőtől a helyi, peremhálózati eszközökig és a Windows PC-kig — írja az NVIDIA blogja a Microsoft Ignite konferencia kapcsán. A cég bejelentése szerint az Azure-os virtuális gépek már elérhetők a Vera Rubin NVL72 rendszereken, a nyílt modellek és testreszabási eszközök pedig vevők számára is hozzáférhetők a Microsoft Foundry-n keresztül. (NVIDIA Blog)

Vera Rubin NVL72 az Azure-ban

A Vera Rubin NVL72 rendszerek már futnak az Azure adatközpontjaiban, a megoldást összetett érvelésre, agentalapú alkalmazásokra és nagy méretű modell-betanításra szánták. Az NVIDIA szerint a két cég bizalmas számítástechnikát is kiterjeszt bare-metal és rack-szintű AI-infrastruktúrára, hogy a feldolgozás közben védjék az érzékeny modelleket és adatokat. Az energiahatékonyság javítására az NVIDIA MaxLPS technológiáját is használják.

A teljesítményt az MLPerf-eredmények támasztják alá. Az MLPerf Training v6.1 tesztben az Azure 10 240 NVIDIA GPU-ra skálázta a GB200 NVL72 rendszereket a DeepSeek-V3 modellel, ez a legnagyobb méret a körben. Az MLPerf Inference v6.1 tesztben az Azure GB300 NVL72 rendszerei a felhős beadványok közül a DeepSeek-R1 interaktív átbocsátóképességében több mint 10 százalékkal vezettek — a Signal65 adatai szerint.

Nyílt modellek vállalati testreszabása

A Microsoft Foundry-ban elérhető a Programmed Training szolgáltatás, amellyel a fejlesztők irányíthatják a betanítás utáni munkafolyamatokat, miközben az infrastruktúrát a platform kezeli. Az EY ezzel a szolgáltatással NVIDIA Nemotron nyílt modelleket igazított vállalati vásárlási rekordok osztályozására. A cég saját értékelő adathalmazán a pontosság 55 százalékkal nőtt, a költség pedig 15-öd részére csökkent a zárt, élvonalbeli modellekhez képest — a számokat az EY és a két vállalat közölte, független ellenőrzésük nem szerepel.

A Nemotron 3.5 család a Foundry Managed Compute-on érhető el. A Nemotron 3.5 Super hosszan futó agentekhez készült, a Lightning a gyors válaszokat és eszközhasználatot igénylő alkalmazásokat szolgálja ki. A Nemotron 3.5 Bolt és a Transcribe beszédfelismerő modell hamarosan érkezik.

AI a vállalati adatokhoz közelebb

A Nemotron 3.5 a Foundry Local-on keresztül az Azure Local környezetekbe is bekerül, így a modellek a vállalati adatok helyszínén futhatnak. Az Azure Local támogatja a hardverpartnerektől származó NVIDIA RTX PRO 6000 Blackwell GPU-kat, és kiterjed az NVIDIA Jetson Thor és Jetson Orin peremhálózati platformokra is, ipari alkalmazásokhoz, például gépi látáshoz, robotikához és autonóm működéshez. A fizikai AI modellek, köztük a Cosmos is megjelennek a Foundry Local-ban.

A Windows PC-ken, amelyeket az NVIDIA RTX Spark hajt, a két cég az Ignite-on helyi nagy nyelvi modellekkel futó élményeket mutat be. A GPU-gyorsított Windows 365 Cloud PC-khez érkező Direct Stream funkció akár két 4K-s streamet is képes kezelni másodpercenként 60 képkockával. Ennek korlátozott előzetes változata már regisztrálható, a nyilvános előzetes verzió a 2027-es év elején várható.

Tudományos AI a Microsoft Discovery-ben

Az NVIDIA BioNeMo Agent Toolkit és ALCHEMI Toolkit bekerül a Microsoft Discovery katalógusába, az élettudományi, gyógyszerkutatási és anyag- és kémiai modellekkel együtt. Egy kezdeti integráció a Washingtoni Egyetem Fehérje-tervezési Intézetével közösen fejlesztett RFD4-Proteina modellt használja fehérjeszerkezetek és aminosav-szekvenciák generálására, amelyek további értékelésen és laboratóriumi validáción mennek át.

A Microsoft saját modelljei

A Microsoft AI az NVIDIA Dynamo szoftvert használja a betanítás utáni megerősítéses tanulás inferenciájához, amely a modellek fejlesztéséhez szükséges tapasztalatokat állítja elő. A Bing keresési modelljeihez pedig NVIDIA RTX PRO 6000 Blackwell GPU-kat használnak. Konkrét teljesítménynövekedésről a bejelentés nem közölt adatot, a Dynamo és az RTX PRO 6000 Blackwell GPU-k a Bing keresési modelljeinek szolgálatában maradnak.

tetszett a cikk? oszd meg →
Megosztás

Tetszik az oldal? Támogasd a fejlesztést

Az AI Forradalom egy automatizált pipeline: napi adatgyűjtés, LLM-feldolgozás és infrastruktúra fenntartása valódi költségekkel jár. Ha értékesnek találod a tömör, naprakész AI-összefoglalókat, egy kávé sokat segít.

☕ Támogatom