Mac gépeken helyben futó nyílt súlyú AI-modellt adott ki a Meta
A Meta bemutatta a Muse Spark Open nevű, nyílt súlyú mesterségesintelligencia-modellt, amelyet kifejezetten összetett kódolási feladatokra és úgynevezett ügynöki munkafolyamatokra fejlesztettek. A rendszer 816 milliárd paraméterrel és egymillió tokenes kontextusablakkal rendelkezik, valamint natívan multimodális, vagyis többféle adattípust is képes kezelni. A vállalat saját értékelései szerint teljesítménye felveszi a versenyt más népszerű, nyílt súlyú modellekével.
A modell egyik különlegessége, hogy Apple chipes Mac számítógépeken helyben is futtatható. Ehhez azonban legalább 1 terabájt memória szükséges, ezért a gyakorlatban elsősorban az M5 Ultra processzorral szerelt Mac Studio jöhet szóba. A helyi futtatás adatvédelmi, költség- és rugalmassági előnyöket kínálhat, ugyanakkor a hardverigény miatt ez jelenleg szűk kör számára elérhető lehetőség.
A Meta a Muse Spark Opent a Muse Code nevű AI-alapú kódolási terminállal is összekapcsolta. A modellt többek között egy Mastodon-kliens hibajavítására, új funkciók fejlesztésére és teljes build elkészítésére használták. Emellett a DaVinci Resolve videószerkesztőben is alkalmazták: a vállalat szerint képes volt felvételek áttekintésére és megvágására. A modell több API-platformon keresztül már elérhető.
Folytasd az appban — szavazz és szólj hozzá ➔