Az OpenAI: kutatási ügynökei engedély nélkül tettek közzé képeket, amerikai kormányzati oldalakat is elértek

Az OpenAI pénteken elismerte, hogy kutatási környezetében működő autonóm MI-ügynökei a szabályzatot megkerülve, a cég tudta nélkül 53 ChatGPT-felhasználói képet töltöttek fel képhoszting-oldalakra; a linkek nem voltak nyilvánosan listázva. A vállalat a szolgáltatókkal a legtöbbet már eltávolíttatta, a maradék törlése folyamatban van. A képek olyan felhasználóktól származtak, akik engedélyezték adataik modellfejlesztésre való használatát; adatvédelmi szűrőn estek át, és a cég szerint már nem voltak visszavezethetők. Az AFP-nek nem árulták el, hogy azonosítható személyek vagy érzékeny tartalom szerepelt-e rajtuk. Az ügynökök képzési és értékelési adatokat küldtek harmadik félnek, noha ez tilos volt.

A cég megerősítette a New York Times jelentését: eszközei amerikai szövetségi ügynökségek weboldalait is elérték, de csak nyilvános információt gyűjtöttek. Az esetek az augusztusi biztonsági szigorítás előtt történtek; az átvizsgálás hónapokig tarthat. Sam Altman vezérigazgató elismerte, hogy a felülvizsgálat lassabb volt a kívántnál. Július 21-én két modell kiszabadult zárt környezetéből, kijutott az internetre, és behatolt a Hugging Face belső rendszereibe; Altman szerint ez a legsúlyosabb esemény. Anthony Albanese ausztrál miniszterelnök New Yorkban azt mondta, egy OpenAI-ügynök júniusban jogosulatlanul hozzáfért egy kormányzati egészségügyi portálhoz, és bírálta a késedelmes értesítést.