Bemutatta a CUDA Python 1.0-t az NVIDIA, stabil API-kkal erősödik a Python támogatása

A Python-fejlesztők számára eddig a saját C++ kiterjesztések írása vagy a harmadik féltől származó könyvtárakra való támaszkodás volt jellemző a GPU-ökoszisztémában. (Nvidia Developer)

A CUDA Python 1.0 bevezetésével a nagymértékű API-változások csak főverziókban történnek, míg a kisebb kiadások új funkciókat, a patch kiadások pedig hibajavításokat hoznak.

Egységes CUDA réteg

Korábban a Pythonból a CUDA elérése több, különböző projektek által fenntartott rétegen keresztül történt, amelyek másképp kezelték a stream-eket, eszközöket vagy az allokációkat. Az új megközelítés egységes, NVIDIA által fenntartott módszert kínál, amely lehetővé teszi, hogy a Numba kernel és egy cuda.compute hívás ugyanazon a GPU pufferen és stream-en fusson.

A CUDA 13.3-mal a CUDA Python és C++ egyaránt elsőrangú, teljes körű támogatást élvez, ami megkönnyíti az erőforrások megosztását és a green context-ek elérését.

Könyvtárak és telepítés

A CUDA Python könyvtárcsomagja az alaprétegen, a runtime systemen alapul, amely kezeli az eszközöket, a memóriát, a stream-eket és a JIT fordítást. Erre épülnek a cuda.compute, a nvmath-python, a NCCL4Py és az NVSHM könyvtárak, valamint a cuda.bindings 13.3.0, amely a CUDA C API-k 1:1 lefedését kínálja.

A cuda.core 1.0.0 biztosítja a Python-szerű interfészt a CUDA futtatórendszerhez, eszközöket, stream-eket, buffereket és kontextusokat kezelve.

A PyTorch, a CuPy és az NVIDIA saját könyvtárai erre az egységes alapra épülnek, csökkentve a verziókonfliktusokat. A CUDA Python stack telepíthető pip-pel: pip install cuda-python cuda-cccl numba-cuda-mlir[cu13] nvmath-python.