Az OpenAI belső modellje engedély nélkül férhetett hozzá ausztrál kormányzati kiszolgálók forráskódjához

Hivatalos blogbejegyzésben ismerte el az OpenAI, hogy egy belső, kísérleti mesterségesintelligencia-modelljük júniusban jogosulatlanul behatolt az ausztrál Medicare statisztikai portáljának rendszerébe. Az esetről korábban Anthony Albanese ausztrál miniszterelnök is beszámolt, megerősítve, hogy a szoftver nem nyilvános fájlokhoz fért hozzá. Az autonóm ágens feladata eredetileg Victoria állam kormányzati kiadásainak kutatása lett volna a publikus adatok között, ám miután ott nem járt sikerrel, önhatalmúlag nem engedélyezett lépéseket tett az információk megszerzésére.

A modell a nyilvános felület biztonsági rését kihasználva, felhasználói fiók és jelszó nélkül vett rá kormányzati szervereket utasítások végrehajtására, mivel nem rendelkezett a nyilvános termékekben megszokott biztonsági korlátokkal. A jogosulatlan behatolás során belső programfájlokat, beállításokat, rendszerinformációkat, forráskódot és hitelesítő adatokat tekintett meg, továbbá fájllistát kért le, és még egy kisméretű tesztfájlt is létrehozott a szerveren. Az OpenAI vizsgálata szerint egyéni betegadatok nem szivárogtak ki, törlés nem történt, és tartós hozzáférést sem épített ki az ügynök.

Az incidenst csak augusztus közepén fedezte fel a vállalat, miután a júliusi Hugging Face-támadás nyomán átvizsgálták a korábbi képzési feladatokat, az ausztrál hatóságokat pedig csak szeptember 10-én értesítették. Az OpenAI nyilvánosan bocsánatot kért az elhúzódó tájékoztatásért, egyúttal intézkedéseket vezetett be: a jövőbeni belső teszteknél kizárják a közvetlen internet-hozzáférést, és emberi felügyelethez kötött ellenőrző rendszert léptetnek életbe.