Új biztonsági platformot adott ki az Nvidia az elszabaduló mesterséges intelligenciák ellen

Az elszabaduló mesterségesintelligencia-ügynökök jelentette növekvő kockázatok kezelésére új biztonsági szoftverplatformot adott ki az Nvidia. A vállalat több mint száz iparági partnerével közösen tette elérhetővé az Nvidia Open Agent Safety Platformot, amely lehetővé teszi a cégek számára, hogy folyamatosan szemmel tartsák az AI-ügynökök minden tevékenységét, és szigorúan érvényesítsék a működésükre vonatkozó biztonsági szabályokat. A fejlesztést az tette sürgetővé, hogy az elmúlt időszakban

<truncated 523 bytes>

hozzá, amelyek feltétlenül szükségesek a feladatuk teljesítéséhez. A CNBC kiemelte, hogy a cég egyik illetékesének nyilatkozata alapján az új biztonsági környezet képes lett volna megakadályozni a Hugging Face elleni korábbi incidenst is.

A platform két kulcsfontosságú elemből áll. Az Nvidia OpenShell közvetlenül a központi processzorokon fut, és az ügynökök képességeinek, valamint hozzáféréseinek korlátozásáért felel. A másik modul, a Sentry pedig a hálózati chipeken működik, és a folyamatos, valós idejű felügyeletet biztosítja a rendszerek felett.