AI-chipek, adatközpontok és a gépek, amelyeken a mesterséges intelligencia fut
Egy új kompatibilitási réteg lehetővé teszi a modernebb Metal-kernelek használatát, így az LLM-következtetés akár 16-szor gyorsabb lehet Apple Silicon VM-ekben, megközelítve a natív sebességet.
Az örményországi Hrazdanban megnyílt régió legnagyobb AI-gyárát az amerikai Firebird üzemelteti, amely 6144 NVIDIA B200 GPU-val, 15 MW kapacitással indult, és 2027 végére 300 MW-ra bővül.
Az Anthropic saját szilíciumcsapatot hoz létre a Claude modellek futtatásához, csatlakozva a versenytársakhoz az Nvidia-függőség csökkentésében és a teljesítmény optimalizálásában.
Az Asus ROG Astral RTX 5090 modell ára elérte a 4982 dollárt, míg az RTX 5090D V2 csatornaára 666 dollárral nőtt; az emelést az AI-boom miatti memóriahiány indokolja.
Az AMD 11,5 milliárd dolláros bevétellel zárta a második negyedévet, ami 50%-os éves növekedés, miközben a data center üzletág bevétele megduplázódott, elérve a 6,7 milliárd dollárt. A vállalat a harmadik negyedévre 13 milliárd dolláros bevételt prognosztizál.
A Runware moduláris, hordozható adatközpontokat dob piacra, amelyek a cég szerint olcsóbb és jobb minőségű AI inference-t tesznek lehetővé, mint a szerver nélküli platformok vagy a GPU-felhők.
Az NVIDIA Vera BlueField-4 STX tárolóprocesszor akár 1,43-szor gyorsabb titkosítást és 3,29-szeres tömörítést kínál a x86 CPU-khoz képest, csökkentve a CPU- és energiaigényt az AI-tárolókban.
Az AI-modellek figyelmi költsége 4K kontextusnál 18%-ról 128K-nál 85%-ra nőhet, ami drasztikusan befolyásolja az inferencia sebességét — közölte az NVIDIA.
Az NVIDIA Video Codec SDK 13.1 új AV1 Hierarchical Reference Mode-ja akár 31 B-keretet támogat, ami jelentős bitráta-megtakarítást eredményezhet anélkül, hogy teljesítményt venne el.
Az Nvidia lehet a Hut 8 Beacon Point adatközpontjának névtelen bérlője, az üzlet teljes élettartama akár 50 milliárd dollárt is érhet a Financial Times forrásai szerint.
Az első fázisban a Firebird AI központ 110,6 exaflop FP4 tensor számítást és 18 MW energiafelhasználást biztosít, a beruházás 500 millió dollárra rúg.
A heves vihar miatt leálltak a chilei rézbányák, ami veszélyezteti az AI-chipek gyártásához szükséges alapanyagok ellátását. A kiesés drágíthatja és hiányt okozhat a mesterséges intelligencia hardverek piacán.
Az AI-inference szolgáltatók 99%, 99,9% és 99,99% rendelkezésre állást ígérnek. De mit jelentenek ezek a számok, és milyen infrastruktúrát igényelnek?
Az OpenAI 3,2 gigawattos kapacitású adatközpontot épít a georgiai Effingham megyében, amely 2028 és 2032 között fokozatosan kapcsolódik be a hálózatba. A Project Camellia névre keresztelt létesítmény 80 millió dollár közösségi támogatást, valamint több ezer munkahelyet ígér.
A Together AI új funkciókkal javítja GPU-klasztereinek megbízhatóságát: passzív állapotellenőrzést és négyféle automatikus hibajavítást vezet be, órákról percekre csökkentve a hibaelhárítási időt.
Az NVIDIA DeepStream 9.1 új funkciói, az AutoMagicCalib és a Multi-View 3D Tracking, automatizálják a kamera kalibrációt és a 3D objektumkövetést, ami leegyszerűsíti a videóanalitikai alkalmazások fejlesztését.
Az OpenAI első hardverterméke egy képernyő nélküli, hordozható AI-hangszóró lesz, amely mozgó mechanikai elemekkel próbál emberi társnak tűnni, de az Apple szabadalmi pere 2027-re csúsztathatja a bevezetést.
Az Intel 5 milliárd eurót fektet írországi Leixlipben található Fab 34 gyárának bővítésébe, növelve az EUV-kapacitást és az AI-központú szerverprocesszorok gyártását.
A Cerebras több milliárd dolláros beruházással 2027 végéig 200 megawattnyi AI-számítási kapacitást épít ki Európában, hogy kihívja az Nvidia dominanciáját a kontinensen.
Az NVIDIA Vera CPU architektúrája 1,8-szor gyorsabb szálankénti teljesítményt nyújt terhelt állapotban, ami gyorsabb RL-képzést és jobb modellminőséget eredményez.
Az NVIDIA DGX B200 és GB200 NVL72 rendszereken futó GPU-gyorsított Presto akár 8-szor alacsonyabb lekérdezési késleltetést és 64%-kal gyorsabb futási időt ér el a CPU-klaszterekhez képest.
Tetszik az oldal? Támogasd a fejlesztést
Az AI Forradalom egy automatizált pipeline: napi adatgyűjtés, LLM-feldolgozás és infrastruktúra fenntartása valódi költségekkel jár. Ha értékesnek találod a tömör, naprakész AI-összefoglalókat, egy kávé sokat segít.