AI-rackeket épít az Intel, a SambaNova és a Foxconn, 1:1 arányú CPU-GPU-val

Az Intel, a SambaNova és a Foxconn bejelentette, hogy közösen építenek rackscale AI-infrastruktúrát adat- és intelligenciaközpontok számára. A partnerség alapja az Intel Xeon processzorok és a SambaNova SN-50 Reconfigurable Dataflow Unit egységek kombinációja, amely az inference teljesítményt helyezi előtérbe a nyers betanítási kapacitás helyett. (TNW)

Az AI-munkafolyamatok átalakulása miatt a korábbi négy GPU/CPU arány helyett az inference-fókuszú feladatokhoz közelebb kerül az egy CPU-t egy GPU-hoz arány. Ezt a stratégiát támasztja alá az Intel új Xeon 6+ processzora, amely már a 18A gyártástechnológiával készül.

Kapcsolódó: Intel AI-stratégia

A számítási teljesítmény új dimenziója

A Foxconn feladata a rendszerintegráció lesz, és egy CPU-sűrű változatot is terveznek fejleszteni olyan feladatokra, mint az alacsony költségű inference, adatfeldolgozás és a hibrid AI. A felek emellett együttműködést vizsgálnak egyedi szilíciumfejlesztés terén is.

Kapcsolódó: Intel chipcsomagolás

Egyetlen folyadékhűtéses rack akár 36 864 magot is tartalmazhat 32U helyen, nagyjából 100 kilowattos fogyasztás mellett. Ez a sűrűség kulcsfontosságú lehet az ügynökök futtatásához anélkül, hogy az üzemeltetőknek át kellene alakítaniuk létesítményeiket.

Kapcsolódó: Nvidia Mission Control

A jövőbeli lehetőségek terepe

Az együttműködés a chipgyártó, egy szerződéses gyártó és egy adatfolyam-chip startup között egyelőre szándéknyilatkozat, amelynek sikerét az egy az egyhez CPU-GPU arány tesztelése határozza meg. A gyártott rackek valósak, de a mögöttes elmélet még tesztelés alatt áll — közölte a The Next Web. A rackek tesztelésére 2024-ben kerül sor az Intel laborjában.

Kapcsolódó: Google chipellátás