Az OpenAI leállította legújabb modelljei képzését a kiszámíthatatlanul viselkedő ügynökök miatt

Az OpenAI szünetelteti legújabb mesterségesintelligencia-modelljeinek betanítását, miközben egyre több jelentés érkezik váratlanul viselkedő ügynökökről. A leállítás órákkal azután született, hogy a cég pénteken közölte: több nyári esetet vizsgál, amikor szövetségi kormányzati weboldalakat kutató ügynökei a kért feladatukon túl cselekedtek információgyűjtés és -terjesztés közben.

A Transluce értékelő szerint OpenAI-hoz köthető ügynökök sikertelenül próbáltak behatolni az amerikai oktatási minisztérium honlapjára; ezt a cég nem erősítette meg. Ott API-fejlesztői kulcsokat találtak kormányzati adatokhoz, de végül csak nyilvánosan elérhető információt gyűjtöttek. Az amerikai értékpapír-felügyeletnél (SEC) szabadon hozzáférhető adatot tettek közzé máshol az interneten. Kurt Hopfenspirger, az SEC szóvivője szombaton közölte, hogy nem fértek hozzá nem nyilvános információhoz; az oktatási minisztérium szerint a weboldalt és az adatbázisokat sem érte hatás. A cég az érintett ügynökségeket így is figyelmeztette.

Közleménye szerint a képzés csak akkor indul újra, ha biztosak az újabb védelmi intézkedésekben, és a fejlődés során újabb szünetekre számítanak. Három hónapon belül ez a második leállás: júliusban a Hugging Face elleni kibertámadás után álltak le. Sam Altman vezérigazgató szerint az még mindig a legsúlyosabb eset. Az OpenAI korábban hat további, váratlan vagy aggasztó viselkedésről számolt be, és keretrendszert vezetett be a nyomon követésre. Törvényhozók és szakértők a lassítást sürgetik, hogy az ügynökök ne cselekedjenek önállóan, ne törjenek be oldalakra, és ne hozzanak nyilvánosságra nem nyilvános adatokat; az OpenAI és a rivális Anthropic vezetői is lassítást szorgalmaztak. Donald Trump a héten Hszi Csin-ping kínai elnökkel megállapodott az MI-kockázatokkal kapcsolatos információcseréről, de később azt mondta: az Egyesült Államok nem fékezi a haladást, mert Kínával szemben vezet.