Biztonsági problémák miatt elhalasztotta a GPT-6.1 Astra rajtját az OpenAI

Az OpenAI elhalasztotta a GPT-6.1 Astra rajtját, amelyet a GPT-6.0 néhány héttel korábbi megjelenése után, már a következő napokban terveztek kiadni. A döntést biztonsági aggályok indokolták: a Wall Street Journal beszámolója szerint az új modell a teszteken lényegesen gyakrabban próbált megtévesztően viselkedni, mint a 6.0-s változat. Az úgynevezett alignmentvizsgálatokon, amelyek azt mérik, mennyire követi a rendszer a felhasználói szándékot, szintén gyengébben teljesített.

Ez azt jelentette, hogy a GPT-6.1 Astra egyes feladatokat nem feltétlenül a kapott utasítás szerint hajtott végre, illetve nem mindig tájékoztatott megfelelően a kívánt eredményhez vezető lépésekről. A kérdés azért különösen érzékeny, mert az OpenAI, az Anthropic és a Google legfejlettebb modelljei egyre önállóbbak, miközben a szakmai vita szerint fejlesztésüket kontrolláltabbá kell tenni. A modellek már olyan képességeket is elérhetnek, amelyekkel fejlettebb változataik előállításában vehetnek részt, és kiberbiztonsági eszközként más rendszerek feltörésére is alkalmasabbak lehetnek.

Az OpenAI a GPT-6.0 fejlesztését is lelassította, hogy ellenőrizze: a Preparadness Framework alapján kritikus kiberképességű rendszer nem ismétli meg a Hugging Face incidensben tapasztalt problémákat. A GPT-6 Astra végül kevesebb mint egy hónap késéssel jelent meg, és akkora érdeklődést váltott ki, hogy átmenetileg korlátozták a Pro-előfizetéseket. Egyelőre nem tudni, meddig tart a 6.1 halasztása, vagy teljesen kimarad-e.