Az OpenAI vízjelet vezet be az AI által létrehozott szövegekhez és kódokhoz
Az OpenAI az Európai Unió AI Actjének átláthatósági előírásaihoz igazodva speciális, szövegbe kódolt vízjelekkel látja el az Európai Unió területén a ChatGPT és a Codex által létrehozott szövegeket, illetve programkódokat. A statisztikai jelölés a modell szóhasználatába épül be, ezért egy erre fejlesztett algoritmus megpróbálhatja megállapítani, hogy egy tartalom részben vagy teljes egészében mesterséges intelligenciától származik-e.
A megoldás azonban egyelőre nem elég megbízható a széles körű használathoz. Az OpenAI belső tesztjei szerint a felismerés pontossága erősen függ a szöveg típusától és hosszától: matematikai témákban és rövid szövegeknél több hibás, negatív eredmény születhet. Az is jelentősen rontja a teljesítményt, ha a szöveg szavainak mindössze 10 százalékát szinonimákra cserélik. Egy vizsgált esetben emiatt 90 százalékról 66 százalékra esett vissza a detektálás pontossága.
Az OpenAI ezért fokozatosan vezeti be a rendszert, és a detektálórutint egyelőre csak bizonyos kutatócsoportok, illetve kutatással foglalkozó szervezetek számára teszi elérhetővé. A visszajelzések alapján továbbfejlesztik a technológiát. Az uniós szabályozás hatálya alá tartozó AI-modellfejlesztőknek december 2-ig kell hasonló vízjelfelismerő rendszert bevezetniük; eddig az OpenAI mellett az Anthropic tette ezt meg.
Folytasd az appban — szavazz és szólj hozzá ➔