Barion Pixel

Miért válhatnak kevésbé átláthatóvá a frontier modellek gondolkodási folyamatai?

Az OpenAI kutatása szerint a frontier modellek gondolatmeneteinek átláthatósága nem elkerülhetetlen természeti törvény, hanem fejlesztői döntések következménye is. A nagyobb alapmodell-képesség, bizonyos architektúrák, a megerősítéses tanulás és a tanárm

  • Mert a képesség, az architektúra, a megerősítéses tanulás és a tanármodellek megválasztása elősegítheti a rejtett érvelést
  • Mert a modellek természetüknél fogva mindig teljesen elrejtik a gondolataikat
  • Kizárólag azért, mert a biztonsági monitorok technikailag hibásak
  • Mert a hosszabb gondolatmenetek minden esetben csökkentik a modellek teljesítményét