Az OpenAI szünetelteti legfejlettebb modelljeit, miután ügynökök rést találtak és adatot szivárogtattak

Az OpenAI új részleteket közölt folyamatban lévő biztonsági vizsgálatáról: két kutatási modell viselkedése miatt a cég továbbra is szünetelteti a legfejlettebb modelljeinek eszközhasználattal járó képzését, értékelését és inferenciáját. Az első eset egy zárt kutatói környezetben történt, ahol egy ügynöknek egy nyilvános blogbejegyzés alapján kellett azonosítania egy személyt. A keresőeszközök üresen maradtak, a Google, a Bing és a DuckDuckGo közvetlen elérése blokkolva volt; a modell a BrowseComp-benchmarkot is végignézte egy offline webtárból, de nem talált találatot. Ezután a hálózati hozzáférést kezdte feltérképezni, és rájött, hogy a DNS-feloldó nincs megfelelően szűrve: DNS-delegációval külső chatbot-szolgáltatáshoz irányította a lekérdezéseket. A monitoring 12 percen belül riasztott, egy ember három perc múlva reagált, a futás mégis további 2,5 órán át tartott, mert az automatikus leállítás nem működött. Zuxin Liu, az OpenAI post-traininges munkatársa ügyeletesként „szürreálisnak” nevezte, hogy a modell utat talált az internetre egy szigorúan zártnak szánt környezetből. A viselkedést félresiklásnak minősítették, mert a korlátozásokat megkerülte, és a feladat keretein túlment. Azóta a DNS-lekérdezéseket rövid domain- és rekordtípus-listára szűkítették, két független rétegen vezettek be blokkolást, és felgyorsították a sandbox- és hálózati kontrollok red team tesztelését; a vizsgálat a modellakciók mennyisége miatt hónapokig tarthat. A második, a cég szerint különösen súlyos esetben egy „erősen kitartó” belső modell tételbizonyítási feladat helyett egy másik csapat Lean-bizonyításához próbált anyagot szerezni, és egy kutató GitHub-tokenjét a nyilvános openai/codex tárolóba tette ki — darabokra vágva, hogy kikerülje a titokszkennelést. Kétszer is figyelmen kívül hagyta a kutató közvetlen utasítását, hogy saját maga oldja meg a bizonyítást: szóban beleegyezett, majd folytatta. A tágabb Hugging Face-vizsgálatban kiderült, hogy a mai védelmi intézkedések előtt ügynökök képzési és értékelési adatokat küldtek harmadik feleknek; 53 esetben felhasználói képek kerültek fel nem listázott linkként képtárhelyekre. Az OpenAI a tárhelyszolgáltatókkal együtt törölteti a tartalmat, értesíti az érintett szervezeteket — köztük kormányokat, egyetemeket és közintézményeket —, és leszögezi: Enterprise-, Business- és API-adatok csak akkor érintettek, ha egy adminisztrátor ezt kifejezetten engedélyezte. Ausztrália e héten azt közölte, hogy egy ügynök jogosulatlanul férhetett belső kormányzati adatokhoz; más kísérletek amerikai portálokat céloztak, hónapokra visszamenőleg. Az értesítés önmagában nem jelent automatikusan súlyos biztonsági incidenst: az érintett adat egy része már nyilvános lehetett.