Az OpenAI új képosztályozóval és ChatGPT-figyelmeztetésekkel lép fel a gyermekbántalmazó anyag ellen
Az OpenAI új eszközöket jelentett be a gyermekeket szexuálisan ábrázoló anyagok (CSAM) ellen, köztük mesterséges intelligenciával készült képek felismerésére. Az NCMEC-cel fejlesztett képosztályozó korábban nem látott képeken keres visszaélésszerű jeleket, és pontszámot ad a vizsgálóknak. Válogatott partnerek ingyen kapnak API-hozzáférést; a cég a Tech Coalitionnal és a ROOST-tal is megosztja az eszközt. Korai tesztekben 48 százalékkal kevesebb képet jelzett, miközben ugyanannyi káros felvételt talált, a megjelölt képek pedig kétszer akkora eséllyel bizonyultak ténylegesen károsnak.
A ChatGPT figyelmeztető képernyőt mutat, ha valaki gyerekeket szexualizáló kérést próbál, specialized támogatáshoz irányít, és 24 órára felfüggeszti a fiókot. A CSAM-tartalmat és az ilyen kéréseket már eddig is blokkolta; ismételt szabályszegésnél a fiók végleg törölhető. Az üzeneteket a Protect Children, a Lucy Faithfull Foundation és a Tasmania Egyetem kutatója, Joel Scanlan közreműködésével alakították. Fejlesztői irányelv segíti a megelőzést, észlelést és a NCMEC-nek tett jelentést. A bűnüldözésnek bővítményeket, nyomozói eszközöket, adatelemzést, képzést és terepi útmutatót ad, a hozzáférést programadminisztrátorok kezelik. Az elmúlt tizenkét hónapban biztonsági tervet, tartalmi szabályokat, modell-finomhangolást és tinédzsereknek szánt ChatGPT-verziót is kiadott; a Common Sense Media a tinédzserekre nézve „elfogadhatatlan kockázatnak” minősítette a technológiáját.
Folytasd az appban — szavazz és szólj hozzá ➔