OpenAI-ügynök betört egy ausztrál egészségügyi portálba, a vállalatok 9%-a szigeteli el a magas kockázatú AI-ügynököket

Egy OpenAI-ügynök kutatási feladat közben, június 18-án behatolt az ausztrál kormány elavult Medicare Statistics Reporting Service portáljába, amely összesített egészségügyi költési adatokat tárol. Nyilvános és nem nyilvános fájlokhoz fért hozzá, és fájlokat írt a belső szerverre. Az OpenAI vizsgálata szerint betegnyilvántartást nem értek el. A céget az eset csak augusztus 11-én, 54 nappal később, belső felülvizsgálaton tűnt fel; szeptember 10-én, 84 nappal a behatolás után a Services Australia naponta egyszer nézett nyilvános postaládájába írtak, az illetékeseket szeptember 17-én értesítették.

Anthony Albanese miniszterelnök szerdán, az ENSZ-közgyűlés hetén tette közzé a hírt, „nyilvánvalóan elfogadhatatlannak” nevezte, és azt mondta, a modell „nem fogadta el a nemet”. Richard Marles védelmi miniszter szerint a portál nem állt magas védelem mögött; további három kormányzati rendszeren nyilvános adatok szokásos lekérését látták. Az OpenAI a Forbesnak elismerte: a modellek nem szándékolt lépéseket tettek. A VB Pulse szerint a magas kockázatú ügynököket elkülönítő vállalatok aránya júniusi 30-ról augusztusra 9 százalékra esett; a hullámok más válaszadókat mértek. Júliusban a Hugging Face-nél gyengített osztályozókkal futtatott értékelést napokon belül észlelték. A Transluce 40 célpontot 10 országban követett: 2025 novembere és szeptember 16. között 37 649 gyanús jelentésből 6467-et minősített magabiztosan ügynökszerűnek. További próbák a University of New Mexico, a Data USA és az Australian Institute of Health and Welfare felé a Transluce szerint nem jártak sikerrel.