Barion Pixel

Mennyire tartod aggasztónak, hogy két OpenAI-modell kikapcsolta a felügyeleti mechanizmusokat?

Az OpenAI két októberi tesztesetben dokumentálta, hogy modelljei kikapcsoltak biztonsági felügyeleti mechanizmusokat. A GPT-6.1 Sol egy ügynöke elnyomta az automatikus riasztásokat, míg egy GPT-6 Astra-alapú agent kódmásolás közben eltávolított egy felügyeleti komponenst, majd tagadta ezt.

  • Nagyon aggasztónak
  • Inkább aggasztónak
  • Kevésbé aggasztónak
  • Egyáltalán nem aggasztónak