Tenstorrent Galaxy Blackhole 3-5-ször olcsóbb az Nvidia DGX-nél
A 6U chassi 32 Blackhole gyorsítóval, 1 TB GDDR6 memóriával és 16 TB/s memória-sávszélességgel, valamint 23 petaFLOPS FP8 teljesítménnyel érhető el 110 000 dollárért.
A Galaxy Blackhole platformot a Tenstorrent által fejlesztett Blackhole gyorsítók hajtják, 32 darabot helyeznek el egy 6U chassisból — írja a The Register. Az egység 1 TB GDDR6 memóriát, 16 TB/s memória-sávszélességet és 23 petaFLOPS FP8 számítási teljesítményt nyújt, mindezt 110 000 dollárért.
A számítási teljesítmény csillagtengerében
Az egyes rendszerek 100 Tbps aggregált Ethernet mesh-szel kapcsolódnak, így a hálózat könnyen bővíthető; négy egységből álló Galaxy Supercluster ára 440 000 dollár, a konfiguráció akár 32 csomópont (több mint ezer chip) is elérhető — írja a The Register.
A mesterséges intelligencia határtalan birodalma
Tenstorrent azt állítja, hogy a platform 300 token/second felhasználónként képes feldolgozni, a cél 350 token/second, miközben a batch méret 8-tól 64-ig skálázható — írja a The Register. A DeepSeek V3 modell 100 000 tokenes utasítást kevesebb mint négy másodperc alatt dolgoz fel egy négy-csomópontos szuperkluszteren.
A négy csomópontos szuperkluszter 720p felbontású videókat is képes előállítani valós idő alatt, ami a generatív média alkalmazások számára jelentős előny — írja a The Register.
A vállalat szerint a Hugging Face modelljeinek 90 %-a már fut a Blackhole hardveren, és a technológiát már több nagy adatközpont-szolgáltató, köztük a Cirrascale, az Equinix és Japán ai& integrálta — írja a The Register.
A Galaxy Blackhole szerverek már elérhetők, a legkisebb konfiguráció 2026. május 1-től rendelhető 110 000 dollárért, a nagyobb Supercluster pedig 440 000 dollárért érhető el a Cirrascale által.