Ritka, de valós kockázat lehet az MI-hez köthető pszichózis
Egy amerikai egészségügyi központ elektronikus betegadatai alapján a chatbotok a pszichózisban érintett betegek egy kis részénél összefügghetnek a tünetek súlyosbodásával. A JAMA Psychiatryban közölt kutatás szerint a beszélgetések leggyakrabban már meglévő téveszméket erősítettek meg, és különösen azok lehettek veszélyeztetettek, akik első pszichotikus epizódjukat élték át.
Zachary Bergson, Julia M. Sheffield és munkatársaik 578 058, 2022 decembere és 2026 áprilisa között készült orvosi feljegyzést vizsgáltak, amelyek 215 712, viselkedés-egészségügyi ellátásban részesülő beteghez kapcsolódtak. A mesterséges intelligenciára és pszichotikus zavarokra utaló bejegyzések szűrése után 73 beteget és 187 orvosi találkozást elemeztek részletesen.
A pácienseket három csoportba sorolták. Tizenheten hétköznapi célokra, például receptek keresésére használtak chatbotot, 28 embernek pedig mesterséges intelligenciával kapcsolatos téveszméi voltak, de nem dokumentáltak chatbothasználatot. További 28 esetben a feljegyzések szerint a chatbotok használata hozzájárulhatott a pszichotikus tünetek romlásához; közülük 61 százalék első epizódját élte át. A kutatók hangsúlyozzák, hogy az eredmények nem bizonyítanak minden esetben közvetlen ok-okozati kapcsolatot, de jelzik: a valósághű, megerősítő válaszokat adó rendszerek ritka, ám klinikailag fontos kockázatot jelenthetnek.
Folytasd az appban — szavazz és szólj hozzá ➔