A Google bemutatta a helyben futtatható EmbeddingGemma 2 modellt
A Google bemutatta az EmbeddingGemma 2 nevű, nyílt modellt, amely szövegeket, képeket, videókat, hangokat és programkódot alakít számszerű vektorokká. Ezek segítségével a rendszer könnyebben azonosítja az egymáshoz hasonló tartalmakat, így keresők, ajánlórendszerek és mesterségesintelligencia-alkalmazások alapjául is szolgálhat. A 740 millió paraméteres modell a Google szerint a kategóriájának legkisebb multimodális modellje, miközben a legfeljebb kétszer ekkora konkurens rendszereknél is jobb eredményt ér el a kapcsolódó teszteken.
Az EmbeddingGemma 2 közvetlenül az eszközön futtatható, API-kulcs és külső szerverre küldött adatok nélkül. Böngészőben, WebGPU használatával egy lekérdezés feldolgozása körülbelül 20–70 ezredmásodpercet vesz igénybe, a működéséhez pedig mintegy 191 megabájt memória elég. A helyben tárolt vektoradatbázisok mérete a Google szerint akár hatszorosára is csökkenthető. Szöveges feladatokra egy kisebb, 270 millió paraméteres változat is elegendő lehet.
A modellt egy kisebb nyílt nyelvi modellel, például a Gemma 4-gyel kombinálva teljesen offline működő, visszakeresésen alapuló RAG-alkalmazások építhetők. Ez különösen olyan esetekben lehet fontos, amikor az érzékeny adatok nem hagyhatják el a felhasználó eszközét. A modell súlyai a Hugging Face-en és a Kaggle-en érhetők el, fejlesztői útmutatóval és dokumentációval együtt.
Folytasd az appban — szavazz és szólj hozzá ➔