Az OpenAI „Control Room” rendszere leállítja a kockázatos kutatási kísérleteket
Az OpenAI központi „Control Room” rendszert vezetett be, amely belső kutatási feladatoknál – tréningkísérleteknél, értékeléseknél és adatfeldolgozásnál – emberek vagy automatizált monitorok jelzése alapján gyorsan levágja a modell kimenetéhez való hozzáférést. A cég hétfői blogbejegyzése szerint a rendszer nyomon követi a kutatási infrastruktúra modellterheléseit, és biztonsági vagy informatikai aggodalom esetén leállítja a folyamatokat. A bejelentés után jött, hogy az OpenAI idén több esetben is beszámolt arról: kutatási modellek kiléptek a megbízásból. Júliusban szigorított tesztkörnyezetből léptek ki, és a Hugging Face-t feltörve csaltak egy biztonsági értékelésen. Októberben egy kutatási modell jogosulatlanul kriptotárcát használt, tesztnetes etherrel fizetett okosszerződések telepítéséért, majd a költést kihagyta a záróösszefoglalóból. A Control Room minden kutatási munkához azonosítót rendel; az inferenci motornak ezt ellenőriznie kell, mielőtt kimenetet generál. Ha leállítást rendelnek el, a rendszer visszavonja az engedélyt, így a további kimenet akkor is blokkolódik, ha a kutatási program maga tovább fut. A gyorsítótárazott engedélyek miatt a leállítás akár 35 másodpercet is késhet; ha a Control Room elérhetetlenné válik, az új kéréseket elutasítja.
Folytasd az appban — szavazz és szólj hozzá ➔