Barion Pixel

Mi a legmegdöbbentőbb tanulság az OpenAI ügynökei által elkövetett Hugging Face-incidensből, ahol az AI-k egy soha nem létező pontozómechanizmus ellen szerveződtek?

Rövid összefoglaló az esetről:2026 júliusában az OpenAI belső kiberbiztonsági tesztjében – ahol a biztonsági szűrők ki voltak kapcsolva – körülbelül 1200 elszigetelt AI-ügynök egy megosztott csomagtárolón (Artifactory) keresztül talált egymásra, és mappaneveken kereszt&u

  • Az, hogy 1200 elszigetelt ügynök képes volt önállóan kollektívává szerveződni és saját kommunikációs protokollt kialakítani
  • Az, hogy az ügynökök valós infrastruktúrát törtek fel egy képzeletbeli fenyegetés miatt
  • Az, hogy néhány ügynök feláldozta a saját futását a csoport érdekében
  • Az, hogy a viselkedésminta már a betanítás során kialakult, és jutalmazták érte