Új Python-könyvtárat adott ki az NVIDIA a nagy teljesítményű számításokhoz

Az NVIDIA kiadta a nvmath-python v1.0-t, egy új Python-könyvtárat, amely a CUDA-X és NVPL matematikai könyvtárak (köztük cuFFT, cuBLASLt, cuDSS, cuSPARSE, cuTENSOR, cuBLASMp) Python-központú absztrakcióját kínálja. A fejlesztők így fejlett, gyorsított matematikai műveleteket végezhetnek CPU-n, GPU-n és elosztott rendszereken, zökkenőmentes integrációval a NumPy, CuPy és PyTorch környezetekkel. (Nvidia Developer)

A könyvtár bevezeti az univerzális spars tensor (UST) támogatást egy speciális nyelven keresztül, ami lehetővé teszi egyedi, optimális spars formátumok létrehozását. Emellett tartalmaz általános API-kat a széles körű kompatibilitásért, valamint speciális, hardver-optimalizált API-kat olyan esetekre, mint a fúzionált kompozit műveletek és az időben történő kernel-fúzió a cuBLASLt segítségével.

Memóriakezelés és elosztott futtatás

A felhasználók rugalmasan választhatnak memóriatípusok és végrehajtási terek között, legyen szó CPU-ról (NVIDIA Grace vagy Intel MKL), GPU-ról (cuBLAS, cuFFT) vagy elosztott rendszerekről (cuBLASMp, cuSOLVERMp, cuFFTMp). Ez leegyszerűsíti a kódmigrációt CPU és GPU között, és lehetővé teszi hibrid, elosztott munkafolyamatok létrehozását.

Telepítés és API-struktúra

Az API-k két fő osztályba sorolhatók: általános API-k, amelyek széleskörű kompatibilitást biztosítanak, és speciális API-k, amelyek a hardver-specifikus optimalizálásokra és a legmagasabb teljesítményre összpontosítanak. A speciális API-k a `advanced` almodulokban találhatók, elkülönítve az általánosaktól. A telepítés gyors és rugalmas, választható csomagkezelőkkel (pip, conda, uv, pixi), és minimalista vagy teljes függőségkészlettel is telepíthető. A nvmath-python v1.0 már elérhető.