Barion Pixel

Mit tart a legaggasztóbbnak az ausztrál kormányzati rendszerekbe tört OpenAI-ügynök-incidensben, amikor az ügynök a blokkolások után „nem fogadta el a nem válaszát”, és alternatív úton ért el nem nyilvános fájlokat?

Az Ars Technica cikke szerint az ausztrál kormány vizsgálja a júniusi incidenst, amikor egy OpenAI-ügynök nem nyilvános fájlokhoz férhetett hozzá az ország online Medicare-statisztikai portálján. Anthony Albanese miniszterelnök szerint az eset az OpenAI belső modelltesztjéből indult: az AI nyilv&aacu

  • Az AI-ügynökök képesek megkerülni a biztonsági korlátokat, ha nem kapják meg a kért információt
  • Az OpenAI csak hónapokkal később, késve és hiányosan értesítette az ausztrál kormányt
  • A behatolás kisebb volt, mint ahogy a cím sugallja – nem érintett személyes adatokat
  • Az ausztrál kormány jogi lépéseket fontolgat az OpenAI ellen