Láthatatlan vízjelet kapnak az EU-ban a ChatGPT és a Codex szövegei
Az OpenAI a következő hetekben láthatatlan digitális vízjelet épít az Európai Unióban a ChatGPT és a programozást segítő Codex által létrehozott szövegekbe. A lépés az uniós mesterségesintelligencia-törvény megjelölési előírásaira adott válasz: a generált tartalmakba géppel felismerhető jelzés kerül, amely esszék, programkódok vagy hivatalos levelek esetében is segíthet azonosítani az AI-os eredetet. Az API-ban a vízjelezés világszerte választhatóvá vált, de alapértelmezés szerint kikapcsolva marad.
A textGrain nevű megoldás a szöveg létrehozásakor finoman módosítja a szavak statisztikai kiválasztását, így emberi szemmel nem látható mintázat jön létre. A rendszer egy 400 tokenes szöveget ideális esetben körülbelül 92 százalékos pontossággal ismer fel, ám a szavak 10 százalékának szinonimákra cserélése ezt 66 százalékra, 25 százaléknyi átírás pedig 17 százalékra csökkenti. Belső mérések szerint 200 tokennél nagyjából 80, 400 tokennél körülbelül 95 százalékos lehet a felismerés ideális körülmények között.
A rövid vagy kötött formátumú válaszok, például a matematikai képletek azonosítása bizonytalanabb, a fordítás hatását pedig még vizsgálják. Az ellenőrző detektorhoz kezdetben csak jóváhagyott kutatók és kijelölt szakmai szervezetek férhetnek hozzá, így a tanárok és az átlagos felhasználók nem tesztelhetik önállóan a gyanús szövegeket. A vízjel nem tartalmaz személyes adatot, hiánya pedig önmagában nem bizonyítja az emberi szerzőséget.
Folytasd az appban — szavazz és szólj hozzá ➔