Tovább a PegaPollra
PEGAPOLL · HÍREK

Az OpenAI új képosztályozóval és ChatGPT-figyelmeztetésekkel lép fel a gyermekbántalmazó anyag ellen

TechCrunch · 2026-11-16
🤖 AI-generált tartalom — A címet és az összefoglalót mesterséges intelligencia készítette automatikusan, emberi szerkesztői átnézés nélkül.

Az OpenAI új eszközöket jelentett be a gyermekeket szexuálisan ábrázoló anyagok (CSAM) ellen, köztük mesterséges intelligenciával készült képek felismerésére. Az NCMEC-cel fejlesztett képosztályozó korábban nem látott képeken keres visszaélésszerű jeleket, és pontszámot ad a vizsgálóknak. Válogatott partnerek ingyen kapnak API-hozzáférést; a cég a Tech Coalitionnal és a ROOST-tal is megosztja az eszközt. Korai tesztekben 48 százalékkal kevesebb képet jelzett, miközben ugyanannyi káros felvételt talált, a megjelölt képek pedig kétszer akkora eséllyel bizonyultak ténylegesen károsnak.

A ChatGPT figyelmeztető képernyőt mutat, ha valaki gyerekeket szexualizáló kérést próbál, specialized támogatáshoz irányít, és 24 órára felfüggeszti a fiókot. A CSAM-tartalmat és az ilyen kéréseket már eddig is blokkolta; ismételt szabályszegésnél a fiók végleg törölhető. Az üzeneteket a Protect Children, a Lucy Faithfull Foundation és a Tasmania Egyetem kutatója, Joel Scanlan közreműködésével alakították. Fejlesztői irányelv segíti a megelőzést, észlelést és a NCMEC-nek tett jelentést. A bűnüldözésnek bővítményeket, nyomozói eszközöket, adatelemzést, képzést és terepi útmutatót ad, a hozzáférést programadminisztrátorok kezelik. Az elmúlt tizenkét hónapban biztonsági tervet, tartalmi szabályokat, modell-finomhangolást és tinédzsereknek szánt ChatGPT-verziót is kiadott; a Common Sense Media a tinédzserekre nézve „elfogadhatatlan kockázatnak” minősítette a technológiáját.

Folytasd az appban — szavazz és szólj hozzá ➔
Forrás: TechCrunch · innen ahirlevel.hu

Kapcsolódó hírek