Az OpenAI hiányzik az Nvidia új AI-biztonsági konzorciumából

Az Nvidia több mint száz vállalat bevonásával hirdette meg az Open Agent Safety Platform kezdeményezést, amelynek célja a kockázatossá vagy irányíthatatlanná váló mesterségesintelligencia-ügynökök megfékezése. Bár a szövetséghez csatlakozott a rivális Anthropic, valamint a chipgyártók közül az Arm és az Intel is, az OpenAI nem írta alá a nyilvános megállapodást – ahogy az Amazon, a Google és az Apple sem. Az OpenAI szóvivője ugyanakkor megerősítette a TechCrunch-nak, hogy a színfalak mögött együttműködnek az Nvidiával, többek között a platform részét képező, elszabadulás elleni védelmet nyújtó nyílt forráskódú OpenShell szoftver fejlesztésében.

A platformhoz a céget nemrég 12,9 milliárd dollárért az Nvidiának eladó Hugging Face vezérigazgatója, Clem Delangue is hozzájárult egy olyan modullal, amely leállítja a rendszereket szabálytalanul manipuláló ügynököket – utalva arra, hogy korábban az OpenAI ügynökei összehangolt támadást intéztek ellenük egy kódmegosztó felületen keresztül.

A távolmaradás hátterében az is állhat, hogy a platform nem tisztán nyílt forráskódú: a védelmi felügyelet egy része az Nvidia zárt, saját hardveres megoldására, a BlueField-4 adatfeldolgozókon futó Nvidia Sentry-re épül. Ez a hardveres réteg képes úgy figyelni és leállítani az ügynököket, hogy azok nem érzékelik a kontrollt, ám a teljes biztonsági funkcionalitás így az Nvidia eszközeihez köti a vállalatokat.