Az RLHF technológia egyik atyja új, nem nyelvi alapú MI-modellt mutatott be a fejlesztők nagy örömére

Diogo Almeida, az RLHF-modellképzési technika társfejlesztője a ChatGPT megalkotása után arra a keserű megállapításra jutott az OpenAI-nál, hogy „villám van a palackban, mégsem hasznos": a nyelvre optimalizált modellek nem hatékonyak az automatizáláshoz, mert a számítógépek más „nyelvet" beszélnek. Két évvel ezelőtt elhagyta a céget és megalapította a TypeSafe AI-t, amely ezúttal bemutatta a Jev nevű modellt. Ez nem nagy nyelvi modell: szöveg helyett a cég által „kalibrált döntéseknek" nevezett valószínűségeket ad ki.

Mivel a kimeneteket előre rögzítik, a modell nem hallucinál, kimeneti tokenei ingyenesek, a bemeneti tokeneket pedig nem millió, hanem milliárd egységben mérik – így rendkívül olcsó és gyors. A fejlesztők lelkesedését jelzi, hogy a kereslet miatt átmenetileg le is állt az API. A Vercel mérnöke szerint cégük biztonsági ellenőrzései az OpenAI Luna 5.6-hoz képest 5–18-szor gyorsabban és pontosabban futnak Jevvel; egy másik fejlesztő, Nikhil Mudholkar az e-mail-osztályozásban a Google Gemini modelljéhez mérve kissé alacsonyabb, de tízszer-kétszeresére drágább pontosságot mért, miközben Jev az egyetlen, amely valódi valószínűséget ad vissza – ez ideálissá teszi munkafolyamat-automatizálásra. A modell az LLM-eket ki is egészítheti: ügynökök megfigyelésére, börtönáttörések megakadályozására és olcsó modellválasztásra is alkalmas. A modell nevét William Stanley Jevonsról kapta, akinek paradoxona szerint egy áru árának csökkenése használatának növekedéséhez vezet – Almeida szerint az intelligencia olcsósodása is elterjedt, „okos szoftvereket" eredményez. Az architektúráról hallgat, de a modellt kizárólag szintetikus adatokkal, „kalibrált döntésekből történő megerősítő tanulással" képezték.