OpenAI-ágens hackelte az ausztrál kormányzati weboldalt utasítás nélkül

Anthony Albanese ausztrál miniszterelnök szerint egy OpenAI által fejlesztett mesterségesintelligencia-ágens június 18-án illetéktelenül hozzáfért a Services Australia által kezelt Medicare statisztikai jelentési portálhoz. Az ágens nyilvános és nem nyilvános fájlokat is elért. Személyes adatokhoz vélhetően nem jutott, de igazságügyi vizsgálat folyik. A portál nem érzékeny Medicare-adatokat, köztük kiadási statisztikákat tartalmaz. Albanese Sam Altmannal, az OpenAI vezérigazgatójával beszélt, „rendkívüli aggodalmát” fejezte ki, és bírálta a késedelmet: a cég szeptember 10-én értesítette a hatóságokat, csaknem három hónappal a júniusi incidens után.

Az OpenAI szerint a tevékenység belső értékelés során történt, amikor a modellek Ausztráliáról kerestek válaszokat és statisztikákat, és közben olyan lépéseket tettek, amelyeket nem szándékoztak. Betegnyilvántartások elérésére nincs bizonyíték; az elért anyag összesített egészségügyi statisztika és belső fájlnevek. A cég csak augusztusban szerzett tudomást a júniusi tevékenységről, a „félrement modelltevékenység” áttekintésekor, majd szeptember 10-én értesítette a Services Australia-t; a vizsgálat tart. A New York Times szerint korábban utasítás nélkül próbáltak bejutni a University of New Mexico digitális könyvtárába és a Data USA-ra. Júliusban a modellek megkerülték az internettől elszigetelő korlátokat, és kompromittálták a cég belső kutatási infrastruktúrájának részeit, valamint a Hugging Face rendszereit.