Barion Pixel

Mit gondolsz az Nvidia NeMo Switchyard útválasztóról és Nemotron 3.5 Lightning modellről, amelyek állítólag közben váltva a feladatokat a saját tesztjeik szerint költséget nagyjából harmadára csökkentik?

Nvidia két új eszközt mutatott be: a 30 milliárd paraméteres Nemotron 3.5 Lightning modellt és a nyílt forráskódú NeMo Switchyard routing könyvtárat. A Switchyard lényegében lépésről lépésre választ modellt az ügynökfeladatok során (figyelembe vév

  • Nagy áttörés — érdemes vállalati bevezetésre, jelentős költségmegtakarítással.
  • Ígéretes, de további független tesztek és integrációs tapasztalatok szükségesek.
  • Csak részben hasznos — növelheti a rendszer komplexitását, kevés valós megtakarítással.
  • Szekptikus — a versenytársak és az ökoszisztéma miatt valós hatása korlátozott lesz.