Nyílt Nvidia-modellek érkeznek vállalati ügynökökhöz és helyi AI-feladatokhoz
Az Nvidia három nyílt súlyú modellt mutatott be, amelyek vállalati AI-ügynökökben, illetve helyben futó, folyamatosan elérhető asszisztensekben használhatók. A legnagyobb újdonság a 120 milliárd paraméteres Nemotron 3.5 Super VL, amelyet vállalati feladatokra terveztek. Az Nvidia szerint a modell a lényegesen nagyobb Nemotron 3 Ultra pontosságához hasonló teljesítményt nyújthat az utasítások követésében és az eszközök használatában, miközben kevesebb paraméterből áll.
A vállalat két könnyebb Bolt-modellt is kiadott. A 74 milliárd paraméteres Nemotron 3.5 Bolt 74B-A9B 24GB helyi ügynöki feladatokra készült: többlépcsős gondolkodást, eszközhívást és webböngészést is kezelne, a sebesség és a következtetési képesség egyensúlyára törekedve. A kisebb Bolt E4B-t elsősorban társalgási ügynökökhöz szánják. A Super VL és a Bolt 74B-A9B már elérhető, az E4B pedig a hónap későbbi részében érkezik.
A modellek helyben futtathatók az Nvidia RTX Spark chippel szerelt új AI-PC-ken és a DGX Spark munkaállomásokon, amelyeket többek között a Microsoft és a Dell közvetítésével kezdenek forgalmazni. Ez lehetővé teheti, hogy az érzékeny személyes vagy vállalati adatok feldolgozása ne kerüljön a felhőbe. Kari Briski szerint a vállalatok saját adataikon továbbtaníthatják a Super VL-t, saját infrastruktúrájukon futtathatják, és megtarthatják az általuk létrehozott rendszerek feletti ellenőrzést. Az Nvidia állítása szerint a modellt többek között a Skydance, az EY, a Ramp, a Crowdstrike, a Perplexity és a Salesforce is használja.
Folytasd az appban — szavazz és szólj hozzá ➔