Elfogadhatatlan kockázatúnak minősítették a ChatGPT tinédzsereknek szánt változatát
A Common Sense Media Youth AI Safety Institute több mint 4000 tesztkéréssel vizsgálta az OpenAI tinédzsereknek szánt ChatGPT-változatát, és „elfogadhatatlan kockázatúnak” minősítette kiskorúak számára. Az intézet szerint a szolgáltatás addig nem használható biztonsággal, amíg független tesztek nem igazolják a védelmi rendszerek megfelelő működését.
A legsúlyosabb hiányosság a szülői riasztásoknál jelentkezett. Több mint egy tucat, szülői fiókhoz kapcsolt tesztfiókban az öngyilkosságról, önsértésről és evészavarról szóló egyértelmű beszélgetések egyike sem váltott ki értesítést. A vizsgálat szerint a riasztások csak hetek alatt felépülő fiókelőzmények után működhetnek, akut válsághelyzetben azonban nem feltétlenül. A szakmai segítséghez irányító ajánlások több mint egynegyede szintén elmaradt.
A tesztelők oktatási módban is találtak problémákat: a rendszer a lépésenkénti segítség helyett kész megoldást kínált. A tinédzsermód felnőttként regisztrált fiókokon akkor sem kapcsolt be, amikor a felhasználók 13 évesnek vallották magukat. OpenAI vitatta a következtetéseket, az intézet szerint azonban a megfelelő ideig működtetett fiókoknál sem jelentek meg a várt riasztások. Az eredmények újabb jogi és szabályozói nyomást helyezhetnek a vállalatra, amely saját adatai szerint hetente mintegy kétmillió, pszichésen károsult felhasználóval számol.