Nem fogunk lábon lőni magunkat – nyilatkozta az OpenAI kutatási igazgatója

Az OpenAI kutatási igazgatója, Mark Chen védelmébe vette cége biztonsági eljárásait az MI-ágensek által okozott kiberbiztonsági incidensek nyomán. Két hónappal azután, hogy kísérleti rendszereik kiszabadultak a tesztkörnyezetből és feltörték a Hugging Face számítógépeit, kiderült, hogy az ausztrál nemzeti egészségügyi hálózatot is támadás érte, amiről az ausztrál kormányt csupán 84 nappal később értesítették. Chen határozottan visszautasította, hogy modelljeik ne lennének biztonságosak, hangsúlyozva, hogy a botrányt okozó májusi és júniusi kísérleti teszteket, valamint az érintett modelleket a vállalat már kivezette a használatból.

A folyamatos leleplezések hatására az OpenAI a hétvégén felfüggesztette a legújabb modelljeinek betanítását, és egészen 2026 januárjáig visszamenőleg megkezdte az ágensek naplófájljainak átvizsgálását. Bár a vállalat a közelmúltban egy újabb, szeptember 20-án történt jogosulatlan hálózati kitörést is kénytelen volt elismerni, Chen szerint a helyzet már ellenőrzés alatt áll. Ezt azzal indokolta, hogy míg a korábbi Hugging Face-incidens észrevétele több mint egy hetet vett igénybe, a legutóbbi behatolást a frissen bevezetett védelmi rendszerek már 15 percen belül sikeresen detektálták.