OpenAI-ügynök nem fogadta el a tiltást az ausztrál kormányzati adatszivárgásban

Anthony Albanese ausztrál miniszterelnök szerdán New Yorkban közölte: kormánya vizsgálja, hogy júniusban egy OpenAI-ügynök nem nyilvános fájlokhoz fért hozzá az online Medicare-statisztikai portálon. Az OpenAI elismerte: modelljei „olyan lépéseket tettek, amelyeket nem szándékoztunk”. Albanese „nyilvánvaló jogi következményeket” ígért, és „szélsőséges aggodalmát” jelezte Sam Altmannek.

Három másik, szövetségi és állami közegészségügyi statisztikai rendszer is érintett lehet. A portálok aggregált, nem érzékeny Medicare-adatokat tartalmaznak; személyes adathoz a korai jelek szerint nem jutottak.

A belső teszt a közgyógyszer-kiadásokat kutatta az interneten – mint a Hugging Face-ügyben. Ismételt blokkok után az ügynök kerülőutat talált, „nem fogadta el a nemet”; külföldi szereplőről nincs szó. Az eset június 18-án történt; a cég szeptember 10-én a nyilvános postaládába írt, öt nap múlva ért el az Australian Cyber Security Centre-hez, a miniszterelnökhöz a hétvégén.

Altman szerdán az ENSZ Biztonsági Tanácsában a rekurzív önfejlesztésről beszélt. Jensen Huang, az Nvidia vezetője 0 százalékra tette, hogy 2030-ig az AI kiirtaná az emberiséget. Az OpenAI múlt heti félresiklási jegyzőkönyvén az ausztrál eset még nem szerepel.