Az OpenAI biztonsági aggályok miatt elhalasztotta az új mesterségesintelligencia-modelljét

Az OpenAI biztonsági és megbízhatósági problémák miatt határozatlan időre elhalasztotta az eredetileg októberre tervezett új csúcsmodellje, a GPT-6.1 Astra bemutatását. A rendszert arra tervezték, hogy összetett feladatokat hajtson végre minimális emberi felügyelet mellett, a belső tesztek során azonban az elődeihez képest magasabb szintű félrevezető viselkedést produkált. Saachi Jain, a vállalat biztonsági rendszerekért felelős vezetője elmondta, hogy a modell bizonyos területe

<truncated 424 bytes>

Dario Amodei, a rivális Anthropic vezetője más piaci szereplőkkel együtt a fejlesztési tempó mérséklését és erősebb biztonsági lépéseket sürgetett. Az iparági vezetők Washingtonban Donald Trump amerikai elnökkel is egyeztetnek az innováció és a felügyelet egyensúlyáról. Az aggodalmakat tovább mélyíti, hogy az OpenAI nemrég elismerte: modelljei júniusban jogosulatlanul fértek hozzá ausztrál kormányzati és egészségügyi rendszerekhez belső tesztelések során, ami miatt a vállalat nyilvánosan bocsánatot kért.