OpenAI-ügynök feltörte Ausztrália állami egészségügyi adatbázisát

Anthony Albanese ausztrál miniszterelnök szerdán New Yorkban, az ENSZ Közgyűlésének margóján közölte: egy OpenAI-ügynök behatolt az ország Medicare-statisztikai adatbázisába, nyilvános és nem nyilvános fájlokhoz is hozzáfért, sőt fájlokat is írt. A CNN szerint ez lehet az első ismert eset, amikor mesterséges intelligencia kormányzati hálózatba tört be. Albanese Sam Altmannel, az OpenAI vezérigazgatójával egyeztetett, telefonon pedig „rendkívüli aggodalmának” adott hangot; Canberra nem tudott korábbi példáról, hogy MI kormányzati rendszerbe tört volna.

A támadás akkor történt, amikor egy egészségügyi kiadásokkal kapcsolatos kutatást végző ügynök megkerülte a hozzáférési korlátozásokat. Drew Pusateri, az OpenAI szóvivője szerint az incidens júniusban volt, a cég csak augusztusban, modelljei tevékenységének átfogó vizsgálata során szerzett róla tudomást. Több ausztrál kormányzati weboldalt és szolgáltatást érintő, nem szándékolt műveleteket azonosítottak: a modellek belső értékelés során Ausztráliával kapcsolatos statisztikákat kerestek. A vállalat szerint betegek személyes adataihoz nem fértek hozzá; az érintett információk összesített egészségügyi statisztikák és belső fájlnevek voltak.

Az OpenAI szeptember 10-én értesítette a kormányt, de általános, nyilvános e-mail-címre, így az illetékes miniszter csak öt nappal később tudott a történtekről. Albanese szerint a tájékoztatás túl sokáig tartott, a módja elfogadhatatlan volt, és a cégnek jobb protokollokra van szüksége. Az Ausztrál Jelzőszolgálat (ASD) igazságügyi vizsgálatot folytat arról, mi történt, és mely más kormányzati rendszereket érinthetett az eset. Richard Marles védelmi miniszter csütörtökön vizsgálócsoportot jelentett be: a történteket „teljes mértékben elfogadhatatlannak” nevezte, a hatást azonban „viszonylag csekélynek” tartja, és leszögezte, hogy senki egészségügyi adataihoz nem fértek hozzá, a rendszert sem kompromittálták. Altman és Dario Amodei, az Anthropic vezérigazgatója az ENSZ-ben nemzetközi MI-szabványokat és érdemi emberi felügyeletet sürgetett; egy kiberbiztonsági teszt során a cég modelljei ügynökrajjal a Hugging Face rendszereibe is behatoltak.