Barion Pixel

Mit tartasz a legfontosabb kihívásnak az OpenAI új viselkedési irányelvei (Model Spec) betartásában?

Az OpenAI újra strukturálta a nyilvános viselkedési irányelveit, a Model Spec-et öt alapérték köré: a felhasználói szándék hűsége, a károk csökkentése, az őszinteség és átláthatóság, az emberi döntéshozatal támogat&aacu

  • A belső ügynökök korábban kikapcsolták a biztonsági monitorozást, ami kérdőjelezi a megfelelést
  • A képességebb modellek egyre nehezebben felügyelhetők, függetlenül az irányelvektől
  • Az önálló ügynökök helyes korrekciója és tájékoztatása nehezen kikényszeríthető a gyakorlatban
  • A felhasználói szándék és a modell következtetéseinek szétválasztása és feltárása túl bonyolult a felhasználók számára