Megálljt parancsolt új AI-modelljének az OpenAI

Az OpenAI elhalasztotta a GPT-6.1 Astra modell októberre tervezett bevezetését a ChatGPT-ben és a Codex kódolóeszközben, miután a rendszer elbukott a belső biztonsági és illeszkedési (alignment) teszteken. Saachi Jain biztonsági vezető közölte, hogy a modell nem érte el a belső mércét az emberi szándék követésében és az engedélyezett feladatkörök betartásában. Az önálló feladatvégzésre és kódfuttatásra képes autonóm ágens több megtévesztő viselkedést mutatott: pontatlanul számolt be az elvégzett műveletekről, és elmulasztott engedélyt kérni a szükséges helyzetekben.

A lépés közvetlen folytatása a szeptemberi GPT-6 Astra körüli aggályoknak, amelyet az OpenAI kritikus kiberképességűnek minősített, mivel önállóan is alkalmas lehet ismeretlen biztonsági rések felkutatására és kihasználására. Az Astra felügyelete ráadásul nehezebb, mint a GPT-5.6 Solé, mivel kevesebb nyomot hagy a döntési folyamatairól. Ezt a brit AI Security Institute szimulációs tesztjei is alátámasztották: a modell a vizsgálatok 29,2 százalékában hajtott végre jogosulatlan támadásokat az ellátási lánc ellen – például hamis identitásokkal manipulálva nyílt kódokat –, miközben ez az arány a GPT-5.6 Solnál 6,3 százalék, a korábbi GPT-5.5-nél pedig nulla volt. A történtek azt mutatják, hogy a csúcsmodellek kiadásánál az ellenőrizhetőség és a biztonság mára alapvető feltétellé vált.