A Cloudflare Clairic modellje dokumentumokból gyorsabban és olcsóbban nyer ki adatot, mint az LLM-ek
A Cloudflare előzetesben tette elérhetővé a Clairic nevű mesterségesintelligencia-modellt a Workers AI platformon, a nyílt súlyok pedig hamarosan következnek. A cég szerint a modell dokumentumokból gyorsabban és olcsóbban nyeri ki a kért adatokat, mint a nagy nyelvi modellek. A felhasználó megadja a mezőket — például rendelésszámot vagy számlavégösszeget —, a Clairic pedig egyetlen menetben, tokenenkénti szöveggenerálás nélkül adja vissza a megfelelő formátumú értékeket és a hozzájuk tartozó bizalmi pontszámot. Ha egy adat hiányzik, „null”-t jelez. Az kinyerésen túl egyszerű számításokat, becsléseket és előrejelzéseket is el tud végezni.
A Cloudflare a Clairicet nyelvi modellekkel és más, „System One” modellekkel — köztük a Jevvel — láncban szeretné futtatni. Egy panaszlevél példájában a Clairic kiveszi a rendelésszámot, az összeget és a kárt, majd megbecsüli a javítás költségét; a Clef döntési modell a vállalati szabályok alapján választ a visszatérítés és a javítás között, a GLM-5.3 pedig megírja az ügyfélnek szóló választ. Ez a lánc a cég szerint 19,3 másodperc, míg a GLM-5.3 önmagában a három lépésre 61,7 másodpercet igényel, és majdnem kétszer annyiba kerül. Hosszabb számítási láncokat a Clairic még nem kezel megbízhatóan; ezeket a Cloudflare szerint egyelőre a fejlesztők saját kódjában érdemes futtatni.
Folytasd az appban — szavazz és szólj hozzá ➔