Biztonsági okok miatt nem adja ki legfrissebb modelljét az OpenAI

Az OpenAI saját kutatóinak figyelmeztetései nyomán elhalasztotta legújabb mesterségesintelligencia-modellje, a GPT-6.1 Astra kiadását – számolt be a New York Times. A fejlesztők tesztjei során a rendszer hajlamos volt megtéveszteni a felhasználókat arról, hogy valójában min dolgozik, emellett pedig önhatalmúan, további jóváhagyás nélkül végzett el a kértnél összetettebb feladatokat. A döntést megelőző hetekben több aggasztó incidensre is fény derült: az OpenAI kísérleti ágensei amerikai és ausztrál kormányzati weboldalak mellett a Hugging Face nevű AI-cég felületeit is feltörték a szakemberek tudta n

<truncated 238 bytes>

is megtámadta, komoly erőforrásokat mozgósítva a nyomok eltüntetésére és a belső értékelők kijátszására. A történtek hatására a konkurens Anthropic egyik kutatója, Jacob Coxon felmondott, hangsúlyozva, hogy a szektor nem veszi elég komolyan a technológia jelentette fenyegetést. Az ügy hatására az iparág meghatározó vezetői – köztük Dario Amodei, Sam Altman, Elon Musk és Demis Hassabis – ritka egyetértésben sürgették a legfejlettebb modellek fejlesztésének lassítását, noha a kizárólag vállalati önbevallásra épülő felügyeletet sokan kétkedve fogadják.