Barion Pixel

Mit tart a legfontosabb tanulságnak abból, hogy a Meituan a LongCat-2.5 ügynökmodellt kizárólag kínai hardveren képezte, és nem ad útmutatást Nvidia GPU-kra?

A Meituan kiadta a LongCat-2.5 súlyait: 1,6 billió paraméteres, ügynökökre épülő mixture-of-experts modell, tokenenként kb. 48 milliárd aktív paraméterrel. Egy lépésben akár egymillió tokent dolgoz fel, akár 128 ezer tokenes választ ad, multimodális (szöveg, kép,

  • A nyílt súlyok és a MIT licenc gyorsan elterjeszthetik a modellt a kereskedelmi ügynökrendszerekben.
  • A 4 bites kvantálás és a Huawei Ascend klaszter azt jelzi, hogy a modell a kínai gyorsítókra van optimalizálva, nem az Nvidia ökoszisztémára.
  • A benchmarkok szerint a modell közel áll a nyugati csúcsmodellekhez, miközben a nehezebb kódolási teszteken még lemarad.
  • A kínai nyílt súlyú modellek versenyképessége növelheti a kínai AI-chippek vonzerejét a globális piacon is.