Az OpenAI mesterséges intelligenciával fogalmazta meg az ausztrál kormánynak küldött incidensértesítést
Az OpenAI mesterséges intelligenciát is felhasznált annak az e-mailnek a megfogalmazásához, amelyben az ausztrál kormányt egy állami rendszert érintő biztonsági incidensről értesítette. A jogi és biztonsági csapatok a levél egyes részeit, köztük a szóhasználatot és a formázást, AI segítségével készítették elő, a végső szöveget azonban emberek ellenőrizték, és ők is küldték el.
A vállalat egyik vezetője, Jason Kwon kedden egy parlamenti meghallgatáson még azt mondta, nem hiszi, hogy AI-t használtak az értesítés elkészítéséhez, de vállalta, hogy ezt később megerősítik. A levél azután ment el, hogy az OpenAI egyik ügynöke június 18-án hozzáfért a Services Australia Medicare Statistics szolgáltatásához és három másik rendszerhez. A cég augusztusban szerzett tudomást az esetről, Ausztráliát viszont csak szeptember 10-én értesítette.
Az ötb bekezdésből álló üzenetet egy naponta egyszer ellenőrzött postafiókba küldték. Az OpenAI szerint nem találtak bizonyítékot betegszintű adatok, személyes információk vagy hitelesítő adatok elérésére, adatok törlésére vagy tartós hozzáférés kialakítására. Kwon elismerte, hogy a vállalat késlekedő reakciója nem volt elégséges. Andrew Charlton ausztrál miniszterhelyettes szerint az eset a fejlett AI-modellek biztonságának és a szabályozásnak a hiányosságaira is rávilágít.
Folytasd az appban — szavazz és szólj hozzá ➔