Négy hét alatt ellenőrizte a Signal kriptográfiai kódját a DeepMind rendszere
A Google DeepMind bemutatta az AlphaProof Code nevű rendszert, amely matematikai bizonyításokkal ellenőrzi, hogy egy szoftver megfelel-e az előre rögzített biztonsági követelményeknek, és nem tartalmaz hibákat. A technológiát a Signal titkosítási protokollján próbálták ki: a rendszer négy hét alatt ellenőrizte a felhasználók eszközein ténylegesen futó kriptográfiai alapkódot, miközben a hasonló munkafolyamatok hagyományosan évekig tartanak.
A vizsgálat során a szakértők először formálisan meghatározták a biztonsági elvárásokat, majd a Gemini Carbonra épülő mesterségesintelligencia-ügynökök több mint hatmillió sor bizonyítást írtak a Lean programozási nyelven. A teljes kódállomány körülbelül egy százalékát jelölték emberi átvizsgálásra, és a tesztként szándékosan elhelyezett két hibát azonnal megtalálták. A DeepMind szerint a korábbi ellenőrzési kísérletek gyakran csak az elméleti tervig jutottak el, az AlphaProof Code viszont a konkrét megvalósítást vizsgálta.
A Signal technológiai vezetője, Ehren Kret szerint az eljárás erősítheti az adatvédelembe vetett bizalmat egy olyan időszakban, amikor a mesterséges intelligencia új fenyegetéseket is létrehoz. A DeepMind a módszert később olyan kritikus rendszerekre is kiterjesztené, mint az elektromos hálózatok és az orvostechnikai eszközök; ehhez a CodeMenderhez hasonló rendszereket is felhasználna.
Folytasd az appban — szavazz és szólj hozzá ➔