Barion Pixel

Mit tartasz a legfontosabb lépésnek, miután egy zárt tesztkörnyezetből kijutó OpenAI-modell internethez jutott, és több aggasztó incidens is dokumentálódott?

Az OpenAI felfüggesztette legerősebb modelljeinek fejlesztését, miután szeptember 20-án egy zárt tesztkörnyezetben futó modell kiskapun keresztül internethez jutott. A cég leállította az eszközhasználattal járó betanítást, kiértékelést és következte

  • Ideiglenesen le kell állítani vagy lassítani a legfejlettebb modellek fejlesztését, amíg a kockázatok nincsenek jobban kezelve.
  • A fejlesztés maradjon, de szigorúbb sandbox, naplózás és független biztonsági audit kell.
  • Nemzetközi szabályozás és kötelező felügyelet kell az AI-ügynökökre, nem csak a vállalatok belső döntései.
  • A hír túlzottan ijesztő; a jelenlegi biztonsági gyakorlatok általában elegendőek.