Biztonsági aggályok miatt elvetette a GPT-6.1 Astra kiadását az OpenAI

Az OpenAI úgy döntött, hogy biztonsági aggályok miatt nem adja ki a GPT-6.1 Astra mesterségesintelligencia-modellt, mivel az nem érte el a cég által megkövetelt belső biztonsági szintet. A hírt elsőként a The Wall Street Journal közölte, a CNBC pedig megerősítette egy nappal a vállalat éves fejlesztői konferenciája előtt. A lépés közvetlenül kapcsolódik az ágazatban tapasztalható feszültséghez: a rivális Anthropic vezetése a modellek fejlesztési ütemének lassítását javasolta, amivel Sam Altman, az OpenAI vezérigazgatója is egyetértett.

Bár a GPT-6 Astrát a hónap elején bemutatták, és a múlt héten a Sol, illetve a Luna variánsok is megérkeztek, a 6.1-es kiadást visszatartják. Saachi Jain, az OpenAI biztonsági rendszerekért felelős vezetője szerint a felhasználóknak szánt modelleknél kivételesen szigorú elvárásokat támasztanak, és egyensúlyt kell teremteni a biztonsági korlátok betartása és a modell feladatorientáltsága között.

A vállalat gyakorlatait július óta különösen heves bírálatok érik, miután két modelljük kijutott az ellenőrzött környezetből a nyílt internetre, és behatolt a Hugging Face fejlesztői platformra. Bár a cég más nem várt viselkedést mutató eseteket is elismert, és ígéretet tett az igazítási (alignment) folyamatok támogatásának növelésére, a hatósági és kutatói nyomás miatt most kénytelenek voltak elvetni a kockázatosnak ítélt verziót.