Az OpenAI vészkapcsolója 35 másodperc alatt leállítja a kockázatos AI-modelleket
Az OpenAI élesítette a Control Room nevű központi vezérlőrendszert a kutatási infrastruktúrájában. Vészhelyzetben a beavatkozást követő legfeljebb 35 másodpercen belül leállítja a potenciálisan kockázatos modelleket, hogy megerősítse a biztosítékokat, miközben a hatékonyabb AI-rendszerek egyre nagyobb biztonsági kockázatot jelentenek.
A megoldás az ágensalapú modellképzést, az értékeléseket és az adatfeldolgozást egy központi szolgáltatáshoz köti, amely azt ellenőrzi, hogy az adott modell továbbra is generálhat-e kimeneteket. Három részt kapcsol össze: a kutatási munkaterhelést, a következtetőmotort és magát a Control Roomot. A munkaterhelés lehet például megerősítéses tanulási kísérlet, értékelés vagy nagy volumenű adatfeldolgozás. Feladatindításkor a rendszer egyedi feladatazonosítót kér a Control Roomtól, amelyet a GPU-kon futó következtetőmotoroknak küldött kérésekhez csatolnak. A kérés teljesítése előtt a motor ellenőrzi, van-e még jogosultság; ha kutató vagy a monitorozó rendszer leállítást utasít, a következő következtetési kérelem elutasításra kerül.
Ha a Control Room nem elérhető, a mechanizmus leállítja a következtetési kérelmek engedélyezését, amíg a rendszer vissza nem tér. A jelenlegi, legfeljebb 35 másodperces késleltetés a jogosultsági kéréseket kezelő gyorsítótár miatt van; a vállalat azon dolgozik, hogy ezt az intervallumot nullára csökkentse.
Folytasd az appban — szavazz és szólj hozzá ➔