Tovább a PegaPollra
PEGAPOLL · HÍREK

Az OpenAI jelentősen visszaszorította modelljei belső következtetéseinek kinyerését

The Decoder (AI) · 2026-11-20
🤖 AI-generált tartalom — A címet és az összefoglalót mesterséges intelligencia készítette automatikusan, emberi szerkesztői átnézés nélkül.

Az OpenAI jelentősen megerősítette a GPT-6.2 Astra és a GPT-6.2 Sol modellek belső következtetési folyamatainak védelmét, hogy megakadályozza azok jogosulatlan kinyerését. A vállalat belső, automatizált adaptív tesztjeiben – amelyeket hat támadó modell bevonásával végeztek – a korábbi kérések védett következtetéseit célzó támadások sikerrátája a GPT-6 Astra esetében mért 54 százalékról 0,2 százalékra esett vissza a GPT-6.2 Astránál. Az aktív kérések elleni támadások eredményessége eközbe

<truncated 293 bytes>

ket, valamint olyan API-tiltásokat alkalmaznak, amelyek megakadályozzák, hogy a régebbi modellek kiolvassák a védett következtetéseket. Az összehangolt modellkinyerési és desztillációs kampányokkal szemben pedig hetente több ezertől több tízezerig terjedő számú fiókot függesztenek fel.

A belső következtetések eltulajdonítása elleni küzdelem az egész iparágat érinti: a rivális Anthropic ugyancsak több tízezer fiók tiltásával lép fel a szisztematikus desztillációs támadásokkal szemben – jelentések szerint az esetek 90–99 százalékában eredményesen –, és összehangolt iparági, valamint szakpolitikai fellépést sürget.

Folytasd az appban — szavazz és szólj hozzá ➔
Forrás: The Decoder (AI) · innen ahirlevel.hu

Kapcsolódó hírek