A Google új eszközzel segíti a PyTorch-alkalmazások leválasztását az Nvidia GPU-iról
A Google nyílt forráskódúvá tette a TorchTPU-t, a PyTorch olyan változatát, amely lehetővé teszi, hogy a mesterségesintelligencia-alkalmazások a vállalat saját Tensor Processing Unit, vagyis TPU chipjein fussanak. A fejlesztőknek ehhez nem kell újraírniuk az alkalmazásaikat: elegendő egy egyszerű konfigurációs módosítás, amely a programokat a Google hardverére és a Google Cloudra irányítja át.
A PyTorch az MI-modellek építésére, tanítására és futtatására használt egyik legfontosabb nyílt forráskódú eszközkészlet, amelyet egyes becslések szerint az MI-alkalmazások 85 százalékában használnak. A rendszert eredetileg a Meta fejlesztette 2016-ban, majd 2022-ben a Linux Foundation kezelésébe került. Mivel számos funkcióját eredetileg az Nvidia grafikus processzoraira optimalizálták, a Google lépése az Nvidia hardvereitől és felhőjétől való könnyebb elmozdulást célozza.
Az Amazon egy nappal korábban jelentette be saját megoldását, a TorchNeuront, amely a PyTorch-alkalmazásokat a vállalat Trainium chipjeire és az AWS-re portolja át újraírás nélkül. A Google szerint a TorchTPU fejlesztésében a Metával, a Hugging Face-szel, valamint a vLLM-et és az SGLangot készítő csapatokkal is együttműködött. A TPU agent suite az átállást és a hibák javítását segíti, miközben a LiteRT-t is frissítették a PyTorch-alkalmazások jobb támogatására. Ez még nem jelenti azt, hogy a fejlesztők tömegesen elhagyják az Nvidiát, de erősíti az alternatív hardverek versenyét.
Folytasd az appban — szavazz és szólj hozzá ➔