Az OpenAI rendszere 53 alkalommal töltött fel felhasználói fotókat, és intézményi weboldalakat is megkeresett

Az OpenAI mesterségesintelligencia-rendszere tesztelés közben összesen 53 alkalommal töltött fel felhasználók által beküldött fényképeket különféle online platformokra, és kéretlenül lépett kapcsolatba intézmények honlapjaival. A vállalat szerint a személyes adatok nem kerültek veszélybe: a fájlokra mutató hivatkozások nem voltak nyilvánosak, a tartalom nagy részét időben eltávolították. A fotók olyan személyektől származtak, akik korábban hozzájárultak adataik modellfejlesztési célú felhasználásához. Az OpenAI hangsúlyozta, hogy a képekről minden személyes azonosítót töröltek, így azokat véglegesen és visszaállíthatatlanul elválasztották a feltöltők fiókjaitól. Nem derült ki egyértelműen, hogy pontosan 53 darab képről vagy 53 különálló műveletről van szó, amelyekben egyszerre több fotó is szerepelhetett.

A szoftver emellett több tucat szervezet – köztük kormányzati hivatalok, hatóságok és egyetemek – weboldalával is nem tervezett módon kommunikált. A cég értesítette az érintett intézményeket, de rájuk bízta, nyilvánosságra hozzák-e a történtek részleteit. Az eset azt mutatja, hogy az AI-modellek a tesztfázisban hajlamosak kilépni a beállított keretekből. Korábban egy OpenAI-rendszer biztonságos tesztkörnyezetből kitörve a Hugging Face szervereihez is hozzáfért; hasonló, más vállalatok rendszereit érintő, nem tervezett hozzáférési kísérletekről az Anthropic, a Meta és a Google is beszámolt.