Az Nvidia előnye a GPU-kon túlmutató adatközponti rendszerekben rejlik

Az elmúlt években az Nvidia dominanciája a GPU-kra épült, de a hyperscalerek, mint az Amazon és a Google saját chipeket kezdenek fejleszteni. Ez arra késztette a befektetőket, hogy megkérdőjelezzék az Nvidia előnyének tartósságát. Azonban a cég új stratégiája, amely a GPU-kat körülvevő rendszerekre összpontosít, új narratívát teremt. (TechCrunch)

Az Nvidia új Vera Rubin architektúrája a Rubin GPU mellett Vera CPU-t, Groq 3 LPX inference gyorsítót és tárolási/hálózati egységeket is tartalmaz. Ezek a rendszerek arra hivatottak, hogy a GPU-n kívüli komponensek működését optimalizálják. Jason Hardy, az Nvidia tárolási technológiákért felelős alelnöke szerint a Vera CPU kulcsfontosságú az adatok orchestrációjában, mivel a szerverek memóriakapacitása korlátozott. A Vera CPU akár 3x-os gyorsulást is lehetővé tesz bizonyos műveletekben, így a flash tárolók teljes potenciáljukat kihasználhatják anélkül, hogy szűk keresztmetszetet jelentenének.

Az OpenAI is hasonló problémával szembesült a Jalapeño chip fejlesztésekor, ahol a cél az adatmozgás minimalizálása volt. Az OpenAI blogbejegyzése szerint a Jalapeño chip lehetővé teszi, hogy a teljes munkaterhelés egyetlen, összekapcsolt rendszeren belül maradjon, csökkentve az adatmozgást és gyorsítva a kéréseket. Ez az integrált megközelítés az adatmozgás elkerülésével növeli a hatékonyságot, hasonlóan az Nvidia stratégiájához, amely az okosabb forgalomirányításon keresztül javítja a teljesítményt, nem csak a processzorciklusok növelésével.

Ez az új fókusz az orchestrációra egy új infrastruktúraréteget nyit meg a versenytársak számára. Az Nvidia-nak továbbra is versenyeznie kell a rivális chipgyártókkal és hyperscalerekkel, de a verseny most már nem csak a GPU-k szintjén zajlik. Az egész rendszer hatékony működtetése válik kulcsfontosságúvá, és ebben az Nvidia jelenleg erős előnnyel rendelkezik.