Az NVIDIA új rendszere 40 százalékkal növeli az AI-kapacitást
Az NVIDIA DSX MaxLPS új rendszere dinamikus teljesítményelosztással és 45 Celsius-fokos hűtéssel maximalizálja az AI-kapacitást, akár 40 százalékkal növelve a GPU-sűrűséget ugyanazon a telephelyen.
A Dynamic Power Software (DPS) finomhangolt, valós idejű teljesítményelosztást tesz lehetővé rack-ek és GPU-k között. Telemetriai és szabályvezérelt vezérlőkkel optimalizálja a kihasználtságot, alkalmazkodik a telephelyi eseményekhez, és elkerüli a manuális újrakonfigurálást, ami jelentősen magasabb rack-sűrűséget és teljesítményt eredményez wattra vetítve. (Nvidia Developer)
Hogyan működik a dinamikus teljesítményelosztás
Az NVIDIA Vera Rubin NVL72 és GB200 NVL72 rendszereken validált MaxLPS csökkenti a rack-enkénti teljesítményigényt. Optimalizált infrastruktúra-tervezés, munkaterhelési profilozás és korai telephelyi bevonás esetén akár 40%-kal több GPU kapacitást tesz lehetővé ugyanazon a telephelyen, 1,3–1,5-szeres teljesítmény/watt javulással. Az AI-gyárak energia-korlátozott ipari rendszerek; a kérdés már nem az, hogy mennyi GPU fér el egy adatközpontban, hanem az, hogy mennyi AI-kimenetet tud szállítani minden rendelkezésre álló megawatt.
A statikus provisioning korlátai és a DSX Exchange
A statikus rack-provisioning hagyományos adatközpont-tervezési megközelítése a maximális teljesítményt különíti el minden rack számára, hogy megfeleljen a legrosszabb eseti csúcskövetelménynek. Ez védi a létesítményt a csúcsterhelés ellen, de minden rack-et önálló energia-szigetként kezel. Az ilyen, felesleges teljesítménnyel ellátott rack nem tudja átadni azt a szomszédjának, amely azt tokenekké tudná alakítani. Az AI-gyárak méretében a létesítményi többletköltségek, a rack-veszteségek és az üzemeltetési hatékonyságtalanságok csökkentik az AI-terheléshez rendelkezésre álló teljesítményt.
A DPS (Dynamic Power Software) folyamatos vezérlési hurkot futtat. A rendszer összegyűjti a GPU-, rack- és csoportszintű teljesítmény-telemetriát, azonosítja a fel nem használt teljesítménykapacitást, a szabályzatokon belül újra elosztja a teljesítményt, érvényesíti a jóváhagyott csoportos teljesítménykeret betartását, és legjobb tudása szerint reagál a teljesítményeseményekre vagy vészhelyzeti szabályzatokra.
A DSX Exchange egy nyílt forráskódú eseménybusz az AI-gyár működéséhez, amely a DPS-t és más DSX-szolgáltatásokat összeköti épületfelügyeleti rendszerekkel, elektromos teljesítménymonitorozó rendszerekkel, hűtési infrastruktúrával, hálózati interfészekkel és számítási ütemezőkkel.
Az NVIDIA becslése szerint egy reprezentatív teljesítmény-költségvetési nézetben a telephelyre szállított teljesítmény körülbelül 60%-a kerül az AI-kimenetet szolgáló számítási kapacitásra.