Bemutatta a TorchNeuron-t az Amazon, egyetlen kódsorral váltó a Trainiumra

Az Amazon bemutatta a TorchNeuron-t, egy nyílt forráskódú eszközt, amely lehetővé teszi a fejlesztők számára, hogy meglévő PyTorch kódjukat az AWS Trainium AI chipeken futtassák anélkül, hogy át kellene írniuk azt. A PyTorch az AI modellek építéséhez legszélesebb körben használt szoftverkeretrendszer. (TNW)

A TorchNeuron nyilvános béta verziója október 20-án, a San Jose-ban megrendezett PyTorch konferencián válik elérhetővé. Az eszköz Apache 2.0 licenc alatt nyílt forráskódú lesz, és támogatja a Trainium2 és Trainium3 chipeket. Az Amazon mérnökei a PyTorch blogon közölték, hogy eddig az új hardverre való átvitel hónapokig tartó átírást és tesztelést igényelt.

A TorchNeuron segítségével a fejlesztők egyetlen eszközbeállítás megváltoztatásával irányíthatják kódjukat a Trainium felé. Az Amazon egy demóban ugyanazt a betanítási szkriptet futtatta egy standard chipen és egy Trainiumon, és azt állította, hogy a modell mindkét esetben azonos sebességgel tanult. Az eszköz a PyTorch beépített rendszerébe illeszkedik, így a standard tesztelési és skálázási eszközök továbbra is működnek.

Az első kiadásban azonban vannak hiányosságok. A PyTorch blogbejegyzés szerint nem támogat még bizonyos funkciókat, mint például a dinamikus bemeneti alakzatokat, és mintegy 22 000 PyTorch tesztet hagy ki. Az Amazon vezérigazgatója, Andy Jassy áprilisban becsülte, hogy a cég egyedi chip üzletága elérheti az 50 milliárd dollárt, és az Amazon most azt állítja, hogy éves bevételük meghaladta a 25 milliárd dollárt.

A korai felhasználók között van a Cartesia és a Deepgram hangalapú AI startup, valamint a Lieber Institute for Brain Development, amely gyógyszerkutatásban használja. A Hugging Face is hozzáadta a Trainium támogatást AI eszközeihez. Az Uber nemrégiben kötött megállapodást a chipek használatáról egy AWS bővítési ügylet részeként. A bevezetés az Amazon azon törekvésének része, hogy versenyezzen a Nvidiával, amelynek chipjei és CUDA szoftvere uralja az AI számítástechnikai piacát.