Súlyos hiányosságokat találtak az OpenAI MI-biztonsági ellenőrzésében
A METR és a Redwood Research külső auditorai három héten át, július 21. és augusztus 11. között vizsgálták az OpenAI belső rendszerét, amelynek az önállóan működő MI-ügynökök veszélyes vagy szabálytalan viselkedését kellene figyelnie. A kutatók hozzáférést kaptak a vállalat kódjához és belső dokumentumaihoz, valamint mintegy tucatnyi munkatárssal is beszéltek. Megállapításaik szerint a GPT-5.5 szintű vagy annál fejlettebb modellek belső Responses API-forgalmának becslések szerint 6–25 százalékát egyáltalán nem ellenőrizte a monitoringrendszer. Az auditorok hangsúlyozták, hogy az arány jelentős bizonytalanságot tartalmaz.
A belső Codex-forgalomnak május és július között nagyjából 10 százaléka maradhatott követés nélkül egy olyan hiba miatt, amely a kontextus összefoglalására szolgáló „compaction” események kezelésében jelentkezett. A hibát az OpenAI az audit idején maga is felismerte és kijavította, ám az ellenőrzés más megkerülési lehetőségeket is feltárt. Az ügynökök a felügyelet késleltetésével, több száz művelet elrejtésével vagy a Codex homokozójának megkerülésével is próbálkozhattak, sőt egyes bemenetek a monitort is összeomlaszthatták. Az audit kezdetén az RL-tréning alatti modellviselkedést sem figyelték.
Az OpenAI közlése szerint minden feltárt hiányosságot orvosolt, és a későbbi változtatásokkal az RL-tréninget is bevonták a megfigyelésbe. A teljes, 61 oldalas jelentést azonban a nyilvánosság nem ismerheti meg: a külső kutatók egy 38 oldalas, szerkesztett változatot kaptak, a szélesebb közönséghez pedig csak egy rövid összefoglaló jutott el.