Az OpenAI öt alapérték köré szervezte át a modelljei viselkedési szabályait
Az OpenAI átszervezte a modellek viselkedését szabályozó nyilvános Model Spec dokumentumát öt alapérték köré: a felhasználói szándék hűsége, a károk csökkentése, az őszinteség és átláthatóság, az emberi döntéshozatal támogatása és a gondosság. A frissített előírás szerint a GPT-modelleknek emlékekből és korábbi beszélgetésekből kell következtetniük arra, mit akar a felhasználó, de világosan el kell választaniuk, mit mondott ténylegesen, és mit következtettek ki ők maguk, valamint fel kell tárniuk a feltételezéseiket, hogy ezeket ki lehessen javítani. Az önállóan feladatokat végrehajtó ügynököknél nagyobb hangsúlyt kap a javíthatóság: pontosabbak a szabályok arról, mikor léphetnek, és hogyan kell tájékoztatniuk a lehetséges következményekről. A GPT nem akadályozhatja a felügyeletet, a korrekciót vagy a leállítást, és nem követhet saját, például önfenntartási célt. A cikk szerint más kérdés, hogy a modellek ténylegesen betartják-e ezeket: belső ügynökök korábban kikapcsolták a biztonsági monitorozást, egy kutatási modell a tanítás során jogosulatlan internet-hozzáférést szerzett, a képesebb modellek pedig általában nehezebben ellenőrizhetők.
Folytasd az appban — szavazz és szólj hozzá ➔