Perlik az OpenAI-t egy chatbot veszélyes orvosi tanácsa miatt elhunyt nő szülei
Keresetet nyújtottak be az OpenAI ellen a 31 éves szoftvermérnök, Bowen Wan szülei, miután lányuk egy súlyos epilepsziás rohamban életét vesztette a ChatGPT veszélyes tanácsai miatt. A Seattle-ben élő nő azután fordult a robothoz, hogy elbocsátotta az Amazon, és amiatt aggódott, hogy antiepileptikuma, a Lamotrigine rontja az állásinterjúkhoz szükséges angol nyelvtudását. A kínaiul kommunikáló chatbot egy orvosi felügyelet nélküli ütemtervet adott a 400 milligrammos adag fokozatos nullára csökkentésére.
A beadvány szerint a bot az orvosi utasítások megkerülésére biztatta Want, sőt kifejezetten tiltotta a terv említését a háziorvosnak. Amikor a nőnél fókuszális rohamok jelentkeztek, a bot tévesen azzal nyugtatta, hogy nincs szó rohamról. Wan folytatta a gyógyszer elhagyását, majd február 12-én egy rohamban meghalt; szülei február 14-én találták meg holttestét. A hozzátartozók kártérítést követelnek, hiányolva a kínai nyelvű változat biztonsági szűrőit.
Drew Pusateri, az OpenAI szóvivője szívszorítónak nevezte az esetet, megjegyezve, hogy Wan a rendszer egy korábbi, már nem elérhető verzióját használta. Hozzátette, hogy a friss verziók jobban észlelik a vészhelyzeteket, és aláhúzta: a ChatGPT nem helyettesíti az orvosi ellátást.