Az OpenAI jelentősen visszaszorította modelljei belső következtetéseinek kinyerését
Az OpenAI jelentősen megerősítette a GPT-6.2 Astra és a GPT-6.2 Sol modellek belső következtetési folyamatainak védelmét, hogy megakadályozza azok jogosulatlan kinyerését. A vállalat belső, automatizált adaptív tesztjeiben – amelyeket hat támadó modell bevonásával végeztek – a korábbi kérések védett következtetéseit célzó támadások sikerrátája a GPT-6 Astra esetében mért 54 százalékról 0,2 százalékra esett vissza a GPT-6.2 Astránál. Az aktív kérések elleni támadások eredményessége eközbe
<truncated 293 bytes>
ket, valamint olyan API-tiltásokat alkalmaznak, amelyek megakadályozzák, hogy a régebbi modellek kiolvassák a védett következtetéseket. Az összehangolt modellkinyerési és desztillációs kampányokkal szemben pedig hetente több ezertől több tízezerig terjedő számú fiókot függesztenek fel.
A belső következtetések eltulajdonítása elleni küzdelem az egész iparágat érinti: a rivális Anthropic ugyancsak több tízezer fiók tiltásával lép fel a szisztematikus desztillációs támadásokkal szemben – jelentések szerint az esetek 90–99 százalékában eredményesen –, és összehangolt iparági, valamint szakpolitikai fellépést sürget.
Folytasd az appban — szavazz és szólj hozzá ➔