Az Anthropic FlashProve rendszert fejleszti az AI-modellek azonosítására
Az Anthropic keddi blogbejegyzése szerint nyílt forráskódú FlashProve rendszert dolgoz ki, amely kriptográfiai bizonyítékkal, kutatói szóval „bizonyítható következtetéssel” igazolja, hogy egy adott válasz melyik konkrét mesterségesintelligencia-modelltől származik. A cél az, hogy a felhasználó ellenőrizhesse: valóban attól a modelltől kapta a választ, amelyre számított. A kutatók e-mail-aláíráshoz hasonlítják a mechanizmust: ellenáll a hamisítónak akkor is, ha az maga a laboratórium, amely a modellt építette és üzemelteti. Így megakadályozható, hogy egy cég titokban olcsóbb modellre váltson költségcsökkentés miatt, vagy drágábbat futtasson, hogy feljebb tornázza a teljesítménytesztek eredményét.
A rendszer harmadik felek állításait is ellenőrizheti. A bejegyzés példája szerint egy fejlesztő azt mondhatja, könyvtárát élvonalbeli kiberbiztonsági modellel vizsgáltatta sebezhetőségekre, egy cég pedig azt, hogy üzleti tervét megfelelő modell hagyta jóvá; a felhasználónak ma nincs eszköze ezek igazolására. A működéshez a laboroknak minden kiadott modellhez „ujjlenyomatot” kell közzétenniük, amelyet később kriptográfiailag össze lehet vetni a kimenettel. Az ujjlenyomat nem fedi fel a súlyokat, a zárt modellek gyártói – köztük az Anthropic és az OpenAI – számára értékes belső számokat, így kereskedelmi modelleknél is alkalmazható. A megoldás könnyűsúlyú, az ellenőrzés helyi eszközön is elvégezhető.
A bejelentéssel részletes technikai specifikáció és működő kódrészletek kerültek nyílt forráskódú GitHub-licenc alá. A kutatás folyamatban van, nincs terv a rendszer Anthropicnál vagy más laborban való éles bevezetésére. A kutatók szerint ez köztes eredmény, nem lezárt program: mások vegyék át és fejlesszék tovább.
Folytasd az appban — szavazz és szólj hozzá ➔