Az OpenAI először enged négy külső auditort belső rendszereihez
Az OpenAI első alkalommal ad közvetlen, helyszíni hozzáférést négy külső auditáló szervezetnek a vállalat belső mesterségesintelligencia-rendszereihez. Az Apollo Research, a METR, a Transluce és a Goodfire a biztonsági kockázatokat, valamint a modellek viselkedését vizsgálja az OpenAI irodáiban. A program egy korábbi, a megfigyelőrendszereket érintő helyszíni felülvizsgálatra épül, és a „White House Accord on Super Intelligence” keretében tett vállalásokhoz kapcsolódik.
Az auditorok feladattól függően hozzáférhetnek még ki nem adott modellekhez, forráskódhoz, tanítási adatokhoz és monitoringrendszerekhez, emellett bizalmasan beszélhetnek a fejlesztőkkel is. Az Apollo Research azt vizsgálja, hogy a modellek megpróbálnak-e a fejlesztőik szándékával ellentétesen működni. A METR a megerősítéses tanulással végzett legnagyobb tréning során jelentkező káros vagy szabálytalan modellviselkedést elemzi, a Goodfire a modellek belső folyamatait, a Transluce pedig az utólagos biztonsági ellenőrzéseket vizsgálja. Az OpenAI és a Transluce 2027 elejére egy újabb, nyolchetes felülvizsgálatot is tervez.
A teljes folyamatot egy független biztonsági testület felügyeli, amely cenzúrázatlan jelentéseket kap és vitás esetekben közvetít. Az auditorok önállóan teszik közzé eredményeiket, az OpenAI azonban bizalmas részleteket kitakarhat, illetve késleltetheti a jelentések publikálását, ha előbb kezelni akarja a feltárt kockázatokat.