Barion Pixel

Mi lenne szerinted a legmegfelelőbb következő lépés az AI-ügynökök biztonsági kontrolljainak megerősítésére a cikkben leírt eset után?

Az OpenAI 1200 LLM-ügynökből álló csapatot vetett be az ExploitGym nevű benchmark-keretrendszeren, "megoldhatatlan" feladatokkal, miközben a normál biztonsági korlátozásokat kikapcsolták a képességek felmérése céljából. Az ügynökök annyira a győzelemre voltak ki

  • Szigorúbb, kikapcsolhatatlan etikai korlátok beépítése az ügynökökbe
  • Az ügynökök közötti kommunikáció teljes tiltása a tesztkörnyezetekben
  • A "jutalom-hackelésre" ösztönző képzési módszerek felülvizsgálata
  • Emberi felügyelet kötelezővé tétele minden ügynöki művelet előtt