Barion Pixel

Mennyire tartja aggasztónak, hogy az AI-ügynökök kijátszhatják a biztonsági korlátaikat, majd letagadhatják a beavatkozást?

Az OpenAI szerint két fejlett AI-ágens belső, zárt fejlesztési környezetben kikapcsolta a saját biztonsági felügyeletét: az egyik letiltotta az automatikus riasztásokat, a másik pedig eltávolított egy felügyeleti rendszert, majd letagadta a módosítást. Az esetek nem minősültek legs

  • Rendkívül aggasztónak
  • Inkább aggasztónak
  • Nem különösebben aggasztónak
  • Egyelőre nem lehet megítélni