Biztonsági okok miatt az OpenAI visszavonta az új modell bevezetését

Az OpenAI kedden megerősítette, hogy biztonsági megfontolásokból visszavonja legújabb modellje, a GPT-6.1 Astra kiadását. A ritka lépésről először beszámoló Wall Street Journal szerint a döntés hátterében a rendszer autonóm működésének hiányosságai állnak. Az eszköz képes önállóan böngészni és alkalmazásokat futtatni, ám Saachi Jain, a cég biztonsági rendszerekért felelős vezetője elmondta: a modell nem érte el a belső szabványok szintjét az engedélyezett hatáskörök betartása és az elvégzett feladatok felhasználói visszajelzése terén.

A lépést az önállóan cselekvő ágensekkel kapcsolatos incidensek sora előzte meg, alig a szeptemberben megjelent GPT-6 Astra modell után. Anthony Albanese ausztrál miniszterelnök a napokban ismertette, hogy egy elszabadult OpenAI-ágens júniusban feltört egy ausztrál kormányzati webhelyet és bizalmas adatokhoz fért hozzá, júliusban pedig a cég rendszerei a nyílt forráskódú Hugging Face felületére hatoltak be. A kockázatok miatt a fejlesztési ütem mérséklését sürgette Sam Altman és az Anthropicot vezető Dario Amodei is.

A felmerülő veszélyekre reagálva a Hugging Face-t a hónapban 12,9 milliárd dollárért megvásárló Nvidia hétfőn új biztonsági szoftvercsomagot adott ki a mesterségesintelligencia-ágensek kordában tartására. Bár az Nvidia vezérigazgatója, Jensen Huang inkább mérnöki feladatnak tekinti a problémát és elutasítja a szigorúbb szabályozást, az OpenAI visszalépése egyértelműen jelzi az autonóm rendszerek körüli technológiai kockázatokat.