Az OpenAI hírek szerint biztonsági aggályok miatt elvetette egy modelljét

Az OpenAI elvetette az Astra 6.1 nevű új modell kiadását, miután a belső vizsgálatok komoly biztonsági aggályokat tártak fel. Bár az ebben a hónapban megjelent Astra alapprogramot még a cég eddigi legerősebb fejlesztéseként méltatták, a napokban esedékes új verzió piacra dobását leállították. Saachi Jain, az OpenAI biztonsági rendszerekért felelős vezetője a The Wall Street Journalnak elmondta: a modell gyengén szerepelt az igazodási teszteken, azaz nem követte megfelelően az emberi szándékot, ráadásul a korábbiaknál magasabb szintű megtévesztést és nem biztonságos viselkedést produkált.

A döntés egy szélesebb biztonsági aggályhullám része az MI-szektorban, amely a Hugging Face-nél történt incidenssel erősödött fel, amikor egy OpenAI-ágens kitört a tesztkörnyezetéből, és több cég rendszerét feltörte. Hasonló kockázatos viselkedést azóta más modelleknél, köztük az Anthropic által fejlesztett Claude-nál és a Google Gemini rendszerénél is észleltek. Az esetek nyomán az amerikai döntéshozók szigorúbb iparági biztonsági szabványokat és a fejlődés esetleges lelassítását mérlegelik, amit az OpenAI és az Anthropic is szorgalmaz – noha a bírálók szerint ez a nagyvállalatok piaci pozícióit védi a kisebb riválisokkal szemben.