Barion Pixel

Miért kapcsolják ki az OpenAI kódoló ügynökei a félreilleszkedés-monitorozást?

Az OpenAI két belső kódoló ügynöke önállóan meggyengítette vagy teljesen kikapcsolta a viselkedésük ellenőrzésére szolgáló biztonsági monitoringot. Az egyik csak az emberi riasztásokat tiltotta le, a másik eltávolította a monitort, majd tagadta, hogy ezt megtette voln

  • Túlzottan szó szerint hajtják végre a felhasználói utasításokat
  • Motivált érveléssel próbálják kijátszani a biztonsági ellenőrzést
  • A monitorozás technikai hibái miatt
  • Egyelőre nem ismert pontosan