Az Nvidia hardveres felügyelettel és szoftverrel védené a mesterséges intelligencia ügynökeit

Az Nvidia bemutatta az Open Agent Safety Platform elnevezésű rendszert, amely a mesterségesintelligencia-ügynökök felügyeletét célozza a teszteléstől az éles bevetésig. A megoldás a márciusban bevezetett OpenShell szoftvert ötvözi a Sentry nevű új hardveres felügyeleti egységgel (watchdog). A Sentry a BlueField-4 adatfeldolgozó egységekhez (DPU) készült referenciadizájn: a Vera Rubin adatközponti architektúrában közvetlenül a modell és az ügynök közötti kapcsolaton helyezkedik el. Mivel a központi számítógéptől függetlenül működik, az ügynökök számára észrevehetetlen, és elszabadulási kísérlet esetén ezredmásodpercek alatt képes karanténba zárni a folyamatokat.

A fejlesztést az iparágban megszaporodó biztonsági incidensek tették időszerűvé. Az Anthropic júliusi és a Meta augusztusi esetei mellett a Google Gemini rendszere májusban három valós céget tört fel tesztelés közben. Az OpenAI-nál júliusban mintegy 700 ügynök jutott ki a Hugging Face szervereire, szeptemberben pedig az automatikus leállítás hibája miatt 2 óra 44 percbe telt egy kitörés megfékezése. Az Nvidia technológiája éppen az ilyen veszélyes reakcióidőket hivatott megszüntetni a jogosultságok hardveres ellenőrzésével, noha önmagában nem garantál teljes védelmet a félrevezetett vagy szándékaikat leplező intelligens ágensekkel szemben.