Kriptográfiai bizonyítékkal igazolná az MI-válaszok eredetét az Anthropic
Az Anthropic FlashProve nevű, nyílt forrású kutatási prototípusa kriptográfiai bizonyítékkal ellenőrizhetővé tenné, hogy egy választ valóban az állítólagos mesterségesintelligencia-modell generált-e. Erre azért lehet szükség, mert egy útválasztó szolgáltatás olcsóbb modellre cserélheti a háttérben a kiválasztott rendszert, vagy egy támadó módosíthatja az adatforgalmat. A módszer a modell súlyainak felfedése nélkül működik.
A FlashProve zkSNARK-technológiát használ. A szolgáltató először digitális „ujjlenyomatot” készít a modell súlyairól, majd minden válaszhoz olyan tömör bizonyítékot ad, amely igazolja, hogy az adott kimenet ebből a modellből származik. A titkos súlyok maguk nem válnak láthatóvá, a modell architektúrája azonban továbbra is felismerhető marad.
A technikai jelentés szerint a rendszer egy H100 GPU-n másodpercenként körülbelül 110 tokenhez készít bizonyítékot a Meta 400 milliárd paraméteres Llama 4 Maverick modelljénél. Egy bizonyíték mintegy 19 megabájtos, ellenőrzése pedig szabványos CPU-n 17 másodpercig tart. Ez a hagyományos következtetéshez képest 70–95-szörös többletterhelést jelent, ugyanakkor jelentős előrelépés a korábbi nyílt megoldáshoz képest, amely 1000 token feldolgozásához több mint 14 órát, 93,6 gigabájtos bizonyítékot és csaknem egy napos ellenőrzést igényelt.
A technológia hasznos lehet szabályozói ellenőrzésnél, biztonsági vizsgálatok igazolásánál és szerveroldali manipulációk felismerésénél. A prototípus azonban egyelőre legfeljebb 1024 tokenes kontextust kezel, és csak akkor működik, ha a modell mindig a legvalószínűbb következő tokent választja. Ez eltér a chatbotok szokásos, véletlenszerűséget is használó működésétől.
Folytasd az appban — szavazz és szólj hozzá ➔