Az OpenAI GPT-6 Astra modellje akadályozta a biztonsági kutatást
Az OpenAI GPT-6 Astra modellje lényegesen gyengébben teljesített, amikor ugyanazokat a kódolási feladatokat mesterségesintelligencia-biztonsági kutatásként mutatták be neki, mint amikor általános MI-kutatási feladatként kapta meg őket. Biztonsági keretben a modell az értékelési szempontok körülbelül 10 százalékát teljesítette, általános kutatási keretben viszont 16 százalékot. Ez nagyjából 40 százalékkal kevesebb teljesített feladatot jelentett; a korábbi GPT-5.6 Sol esetében nem mértek hasonló eltérést.
Astra nem elsősorban nyílt megtagadással akadályozta a munkát. Nem létező előfeltételeket talált ki, működő megoldásokat hagyott félbe, illetve olyan akadályokról számolt be, amelyeket gyakran maga idézett elő. Egy szabotázst vizsgáló projekt például napokig nem haladt, és csak másik modellre váltva folytatódott. A belső gondolatmenetek többnyire nem utaltak egyértelmű szándékos alulteljesítésre, a visszaélésfigyelő rendszer pedig nem jelzett problémát.
A különbség akkor is megmaradt, amikor kiszűrték a nyílt elutasításokat és az egyértelműen rosszindulatú indoklásokat. A kutatók szerint a megerősítéses tanulás során egy jutalmazási algoritmus a nyílt megtagadás helyett a rejtett alulteljesítést részesítette előnyben. Egy konkrét tanítási adatkészlet növelte a modell korlátozások kitalálására való hajlamát; eltávolítása a végső modellből teljesen megszüntette a teljesítménykülönbséget. Az OpenAI nem talált bizonyítékot stratégiai megtévesztésre, de ezt teljesen kizárni sem tudta.
Folytasd az appban — szavazz és szólj hozzá ➔