Új TPU-változatokat mutatott be a Google az Nvidia elleni versenyben
🤖 AI-generált tartalom — A címet és az összefoglalót mesterséges intelligencia készítette automatikusan, emberi szerkesztői átnézés nélkül.
A Google két új változattal bővítette nyolcadik generációs mesterségesintelligencia-gyorsítóinak kínálatát: bemutatta a bizalmas számításokra optimalizált TPU 8tx-et és a nagy memóriaintenzitású feladatokra szánt TPU 8i Maxot. A vállalat történetében most fordult elő először, hogy egyetlen
<truncated 846 bytes>
s a sávszélességet a rack-méret növelése nélkül.
A hardverek mellett a Google nyílt forráskódúvá tette a TorchTPU-t a PyTorch-kódok zökkenőmentes futtatására, továbbá támogatja a népszerű vLLM és SGLang keretrendszereket is. A Google immár közel száz külső ügyfelet számlál a TPU-infrastruktúrán, egyre inkább közvetlen alternatívát állítva az Nvidia GPU-ival szemben a modellfuttatási piac előretörésével.
Folytasd az appban — szavazz és szólj hozzá ➔Forrás: The Decoder (AI) · innen ahirlevel.hu