Bemutatta új AI-chipjét a Microsoft, 40%-kal többet dolgoz fel

A Microsoft bejelentette harmadik generációs, házon belül fejlesztett AI-chipjét, a Maia 300-at. A chipet elsősorban a cég termékei és szolgáltatásai számára szánták, mint „elsődleges AI-inferencia rendszert”. A Maia 300 nemcsak a felhőben futó AI-munkaterhelések költségeit és hatékonyságát javítja, hanem képes kezelni a legújabb érvelési modelleket és ügynöki feladatokat is. (The Verge)

A Maia 300 2027-től kezdve válik elérhetővé a termelési környezetekben. Scott Guthrie, a Microsoft felhőcsoportjának ügyvezető alelnöke szerint „a Maia 300 várhatóan 40 százalékkal több tokent fog feldolgozni megawattóránként, mint a vezető GPU-alapú rendszerek”. Egy teljes, 96 gyorsítóból álló konfigurációban pedig akár hétszeresére növeli a Maia 200-as chiphez képest a rack-méretű token-átvitelt.

Ezek a hatékonysági fejlesztések lehetővé teszik, hogy a Microsoft hamarosan elsősorban saját fejlesztésű AI-chipeire támaszkodhasson, csökkentve Nvidia és AMD chipek iránti függőségét. „A Maia családunkat 2027-től kezdve multi-gigawattos telepítésekre skálázzuk, így a Maia válik a Microsoft termékeinek és szolgáltatásainak elsődleges AI-inferencia rendszerévé” — közölte Guthrie.

A Maia 300 a januárban bejelentett Maia 200 utódja. A Maia 200 már a Microsoft számos termékében fut, beleértve a Microsoft Copilotot, a GitHub Copilotot, a Microsoft Foundryt és a cég saját AI-modelljeit. „A Maia 200 a legjobb teljesítményű AI-infrastruktúra a flottánkban, valós idejű mérőszámok alapján” — mondta Guthrie.

Új munkaterhelésekre optimalizálva

A Maia 300 egy teljes AI-rendszer, amelyet a ma megjelenő új típusú AI-munkaterhelésekre terveztek: hosszú kontextusú érvelés, alacsony késleltetésű beszélgetési élmények és tartós, több lépésből álló ügynöki feladatok.

Chiplet architektúra és TSMC N2P

A chiplet architektúrát használó Maia 300 a TSMC N2P gyártástechnológiájára épül. Ez az architektúra szétválasztja a számítási, memóriavezérlő és I/O funkciókat. „Ez növeli a számítási teljesítménynek szentelt szilíciumterületet, és lehetővé teszi, hogy minden funkció a saját szerepéhez legjobban illő technológiát használja” — közölte az Azure hardver- és infrastruktúra-csapata.

A Maia 300 kulcsfontosságú szerepet játszik a Microsoft saját AI-modelljeinek fejlesztésében is, és segíthet a cégnek abban, hogy felzárkózzon a Google DeepMind, az OpenAI és az Anthropic mellé. „Az egész rendszert, egészen a szilíciumig kell fejlesztenünk” — mondta Mustafa Suleyman, a Microsoft AI vezérigazgatója. „Ezen a skálán olyan platformra van szükségünk, amelyet birtoklunk, és amelyet a modelljeinkkel együtt tervezünk. Ezért a Microsoft AI-modelljeink futtatása a Maia chipen kritikus fókusz a csapatunk számára.”

A Microsoft 2027-től kezdve tervezi a Maia család multi-gigawattos telepítéseit.