NVIDIA GPU nélkül is fut a Microsoft TRELLIS.2 modellje Apple Mac-eken
A PyTorch MPS technológiájának köszönhetően a korábban csak NVIDIA GPU-kon futó eszköz mostantól az Apple Silicon alapú Mac számítógépeken is használható, a CUDA-specifikus műveletek teljes újraírásával.
A TRELLIS.2, amely korábban kizárólag NVIDIA GPU-kon futott, mostantól a PyTorch MPS technológiáját kihasználva működik az Apple rendszerein — írja a Reddit LocalLLaMA fóruma.
Az eredeti TRELLIS.2 modell öt, csak CUDA-n fordított kiterjesztést igényelt, amelyek nélkülözhetetlenek voltak a működéséhez. A Mac-re történő portolás során ezeket a CUDA-specifikus műveleteket teljesen újraírták, hogy kompatibilisek legyenek az Apple Silicon architektúrájával.
A fejlesztők a flex_gemm, flash_attn, o_voxel, cumesh és nvdiffrast nevű CUDA-függő könyvtárakat cserélték le. Helyettük tiszta PyTorch és Python alapú alternatívákat hoztak létre, például egy gather-scatter ritka 3D konvolúciót és SDPA figyelmet a ritka transzformerekhez.
Ez a változtatás lehetővé teszi, hogy a Mac-felhasználók is kihasználhassák a TRELLIS.2 képességeit, anélkül, hogy külön NVIDIA GPU-ra lenne szükségük a 3D-modellek generálásához az Apple Silicon eszközökön.