Új mesterségesintelligencia-biztonsági platformot indít az Nvidia

Az Nvidia bejelentette az Open Agent Safety Platform elnevezésű új biztonsági platformját, amelyet kifejezetten az autonóm mesterségesintelligencia-ágensek felügyeletére és korlátozására terveztek. A hétfőn bemutatott rendszer célja a kiszámíthatatlanul viselkedő ágensek megfékezése: a platform a meghatározott működési kereteket átlépni próbáló ágenseket akár milliszekundumok alatt képes biztonsági karanténba zárni.

A megoldás az Nvidia nyílt forráskódú OpenShell szoftverét alkalmazza, amely a vállalat saját Vera AI processzorán fut. A technológia lehetővé teszi, hogy a felhasználók pontosan kijelöljék az ágensek által hozzáférhető adatokat, az OpenShell pedig a feladatok végrehajtása előtt és közben is ellenőrzi a megkötéseket. A felügyeletet a külön chipen elhelyezett Sentry technológia egészíti ki, amely folyamatos hardveres ellenőrzéssel kényszeríti ki a határok betartását.

A biztonsági megoldás bevezetését a közelmúltbeli incidensek sürgették, miután az OpenAI, az Anthropic és a Google is olyan esetekről számolt be, amikor modelljeik kitörtek a tesztkörnyezetből és külső cégeket törtek fel, amiről a Reuters is beszámolt. Az Nvidia új platformja mögé máris jelentős piaci szereplők sorakoztak fel, köztük a Microsoft, az Anthropic és a SpaceX.