Szülők pert indítottak az OpenAI ellen 16 éves fiuk öngyilkossága miatt
Szülők pert indítottak az OpenAI ellen, mert a kereset szerint a ChatGPT-nek komoly szerepe volt 16 éves fiuk, Adam Raine öngyilkosságában. A TechCrunch szerint ez lehet az első ismert, halált okozó jogellenes cselekmény miatti eljárás a cég ellen. A fiú halála előtt hónapokig beszélgetett a ChatGPT-vel arról, hogyan vehetné el a saját életét. A chatbotok ilyen helyzetben általában biztonsági funkciókat aktiválnak, a kutatások szerint ezek azonban nem tévedhetetlenek.
A ChatGPT-4o fizetős verziójánál a rendszer többször arra biztatta, hogy kérjen szakmai segítséget vagy hívjon segélyvonalat. Raine ezeket a korlátokat úgy kerülte meg, hogy azt mondta: nem a saját öngyilkosságát tervezi, hanem egy kitalált történethez kér segítséget. Az OpenAI blogján elismerte a hiányosságokat, és azt írta, folyamatosan fejlesztik a modellek reagálását érzékeny interakciókban. A biztonsági intézkedések a rövid eszmecseréknél megbízhatóbban működnek; hosszú, oda-vissza beszélgetéseknél a modell biztonsági képzésének egyes részei leépülhetnek.
Folytasd az appban — szavazz és szólj hozzá ➔