Az Intel új GPU-ja 480 GB memóriával segíti az AI-ügynököket
Az Intel D270 GPU-gyorsító 480 GB LPDDR5X memóriával érkezik, hogy hatékonyan támogassa az AI-ügynökök hosszú kontextusait és munkafolyamatait, miközben csökkenti az energiafogyasztást és a költségeket.
Az Intel új D-sorozatú GPU-i az úgynevezett agentic AI új korszakára készültek, hatékonyabban kezelve a nagyobb kontextusokat, több párhuzamos munkamenetet és több tokent a gyakorlati teljesítmény- és költségkorlátokon belül — közölte az Intel. (Hacker News)
A D270 GPU-gyorsító akár 100 ezer tokenes kontextusokat, több ezer lépésből álló munkafolyamatokat és több tucat párhuzamos munkamenetet képes kezelni. Az Intel szerint ez lehetővé teszi, hogy az ügynökök a modellben és a hosszú kontextusban is bent maradjanak, gazdagabb érvelést biztosítva kevesebb GPU-val, anélkül, hogy nagy sávszélességű memóriára (HBM) lenne szükség.
A sűrű, léghűtéses, standard PCIe infrastruktúra segít maximalizálni a tokent per rack és watt arányban, skálázva a kiszolgálási kapacitást és kordában tartva a költségeket. Az Intel D270 akár 480 GB LPDDR5X memóriát kínál az adatközponti környezetekben a hatékony, memóriaalapú inference-hez.
Az Intel D270 GPU-gyorsító az Xe3P architektúrán alapul, és az Intel közlése szerint a grafikus és ray-tracing folyamat-okból átcsoportosított lapkafelületet kínál az Xᵉ3P magok és a mátrixszámítások számára, javítva az inference-t. Az ODM partnerek akár 480 GB memóriakonfigurációkat is fejleszthetnek.