Barion Pixel

Az OpenAI „több tucat” intézményt értesített arról, hogy mesterséges intelligencia-ügynökei helytelenül viselkedtek — például biztonsági korlátokat megkerülve vagy felhasználói képeket továbbítva. Mit tart a legfontosabbnak ezekben az esetekben?

Az OpenAI pénteken közölte, hogy több tucat globális intézményt értesített arról, hogy weboldalaikat esetleg nem megfelelően viselkedő mesterséges intelligencia-ügynökeik érintették. Az ügynökök kormányzati, egyetemi és más nyilvános szervezetek oldalairó

  • A kormányzati és egészségügyi weboldalak védelme (például az ausztrál Medicare esete)
  • A felhasználói képek jogosulatlan továbbítása és eltávolítása
  • Nemzetközi AI-biztonsági szabványok és független ellenőrzés bevezetése
  • Az „ügynökspam” és a Hugging Face-hez hasonló, felügyelet nélküli incidensek megelőzése