Láthatatlan vízjelet kapnak az OpenAI szövegkimenetei az EU-ban
Az OpenAI az elkövetkező hetekben az Európai Unióban láthatatlan vízjellel látja el a megfelelő ChatGPT- és Codex-szövegkimeneteket. A textGrain a modell szóválasztásainak enyhe módosításával olyan statisztikai mintázatot hoz létre, amely később felismerhető, miközben olvasáskor és másoláskor nem látható. A vállalat egyelőre nem teszi a technológiát globális alapbeállítássá, az API-fejlesztők viszont bekapcsolhatják a funkciót a támogatott modelleknél.
Az OpenAI jelentkezést nyit a vízjelérzékelő használatára is, kezdetben azonban csak jóváhagyott kutatók és szakértői szervezetek férhetnek hozzá. A módszer megbízhatósága nagyban függ a szöveg hosszától és állapotától. Egy 400 tokenes szövegnél a szavak 10 százalékának szinonimákra cserélése 92 százalékról 66 százalékra csökkentette a felismerési arányt, 25 százalékos csere esetén pedig 17 százalékra esett vissza. A rendszer 1 százalékos fals pozitív arány mellett a 200 tokenes pszichológiai válaszok mintegy 80, a 400 tokenes szövegek körülbelül 95 százalékában találta meg a vízjelet.
Matematikai szövegeknél gyengébb eredményt várnak, mert a modellnek kisebb a szóválasztási szabadsága. A vízjel hiánya nem bizonyítja az emberi szerzőséget, különösen rövid, szerkesztett vagy lefordított szövegeknél. A jelzésből az sem derül ki, ki használta a modellt, milyen promptot adott meg, illetve mekkora részt írt át ember. Az OpenAI szerint a textGrain a GPT-6 Astra teljesítményét érdemben nem rontja.
Folytasd az appban — szavazz és szólj hozzá ➔