Barion Pixel

Az OpenAI 35 másodperces vészleállító rendszere (Control Room) elég gyorsnak és megbízhatónak tűnik a kutatási AI-modellek biztonságos leállítására?

Az OpenAI bevezette a Control Room nevű központi vezérlőrendszert a kutatási infrastruktúrájában, amely biztonsági vagy biztonságtechnikai aggály esetén gyorsan le tudja állítani a kockázatosnak ítélt modellmunkafolyamatokat. A rendszer összeköti a kutatási feladatokat, a kö

  • Igen, ez reális kompromisszum a biztonság és a működés között.
  • Nem, 35 másodperc kritikus helyzetben sokkal hosszabb, mint kellene.
  • A „fail-safe” (leállás, ha a Control Room nem elérhető) a fontos, a késleltetés másodlagos.
  • Kérdéses, hogy ez elegendő-e az egyre „ágensebb” AI-modellek mellett.