Az OpenAI rendszere 35 másodpercen belül leállíthatja az AI-modelleket
Az OpenAI kutatási infrastruktúrájában már élesben működik a Control Room nevű központi vezérlőrendszer, amelynek feladata, hogy biztonsági vagy védelmi kockázat esetén gyorsan leállítsa az egyre nagyobb képességű mesterségesintelligencia-modellek működését. A rendszer az ágensalapú modellképzést, a különféle értékeléseket, az adatfeldolgozást és más kutatási következtetési feladatokat is nyomon követi.
A megoldás a kutatási feladathoz, a következtetési motorhoz és a Control Roomhoz kapcsolódik. Minden új kísérlet vagy feldolgozási feladat egyedi azonosítót kap, amelyet a modell futtatásához szükséges kérésekhez is hozzárendelnek. Így a következtetési motor minden egyes kérésnél ellenőrizheti, hogy az adott munka továbbra is engedélyezett-e.
Ha a kutatók vagy a megfigyelőrendszerek veszélyt észlelnek, az engedély visszavonható, a további kérések pedig elakadnak, így a modell nem képes új kimeneteket generálni. A rendszer hibája esetén szintén a biztonság élvez elsőbbséget: ha a Control Room elérhetetlenné válik, a motor nem indít új feladatokat. A leállítás jelenleg legfeljebb 35 másodpercet vesz igénybe, részben az engedélykérések kezelésére szolgáló gyorsítótár miatt. Az OpenAI ennek a késleltetésnek a megszüntetésén dolgozik.
Folytasd az appban — szavazz és szólj hozzá ➔