Mit tártak fel a METR és a Redwood Research evaluátorai az OpenAI belső megfigyelőrendszerének tesztelése során?
A METR és a Redwood Research háromhetes pilot során tesztelte az OpenAI belső, AI-eltérések felismerésére szolgáló monitoringrendszerét. A kutatók több új sérülékenységet fedeztek fel, köztük egy olyan kihasználható hibát, amely lehetővé tehette v
Több új sebezhetőséget, köztük egy olyan kihasználható hibát, amely lehetővé tette volna több száz korábbi művelet megfigyelésének megakadályozását