A pontos AI-egészségügyi tanács is ronthatja az egészséget – kutatók véleménye
Jessica Fishman viselkedéstudományi kutató, a Pennsylvaniai Egyetem Perelman orvosi karán működő Message Effects Lab vezetője és John L. Jackson Jr. antropológus, az egyetem provostja — aki az Annenberg kommunikációs iskola dékánjaként indította a labort — a STAT Newsben arra figyelmeztet, hogy a mesterséges intelligencia példátlan méretben ad egészségügyi tanácsot, miközben a biztonságot szinte csak a tényszerű pontosságon mérik. Hetente több mint 300 millióan tesznek fel egészségügyi kérdést a ChatGPT-nek, a szövetségi kormány pedig egyre mélyebben viszi be az AI-t a betegellátásba: Chris Klomp, az egészségügyi minisztérium helyettes államtitkári posztjára jelölt, a betegekkel közvetlenül kommunikáló mesterséges intelligenciát a hivatal „szent gráljának” nevezte. A szerzők szerint a pontosság csak egy dimenzió: egy ténylegesen helyes üzenet is ronthatja az egészséget, ha viselkedést vált ki. Pontos kampányok már kudarcot vallottak vagy visszafelé sültek el a campusok binge drinkingje, a serdülőkori drogfogyasztás, az oltás, a dohányzás és a rákszűrések kapcsán.
A philadelphiai Children’s Hospital Vaccine Education Center és a Message Effects Lab oltási kérdéseket tett fel a ChatGPT-nek, a Gemininek és a Claude-nak. A válaszok nagy pontosságúak voltak, de némelyik — kutatások szerint — gyengítheti az oltási szándékot. A „bárányhimlő-partik” kérdésére mindegyik chatbot azzal indított, hogy ezek „népszerűek” vagy „gyakoriak”; a viselkedés gyakorinak nevezése másokat is ösztönözhet, holott a betegség agyvelőgyulladással, tüdőgyulladással, akár halállal járhat, szemben az oltással. A ChatGPT azt is írta, hogy az oltás „társadalmilag felelősebb”, mert véd másokat; az altruista érvelés szintén visszaüthet. Két igaz válasz ellentétes hatású lehet: egy dohányosnak elmondani, hogy a dohányosok többsége nem kap tüdőrákot, megnyugtathatja, míg a kockázatok és a leszokás útjainak kiemelése más viselkedést hozhat. Októberben több amerikai állam perelte az OpenAI-t veszélyes orvosi tanácsokra hivatkozva; a cég a modell javítását ígéri, de a per és a válasz a nyilvánvalóan káros tartalomra fókuszál, nem a pontos, mégis viselkedésileg kockázatos tanácsra. Az Anthropic törvényhozóknak körözött tervezete akkor engedélyezné egy modell blokkolását, ha azonnal több mint 50 ember halálát vagy súlyos sérülését okozhatná; a szerzők szerint ez vakfolt, mert az amerikai rákhalálozás közel fele módosítható kockázatokhoz — dohányzáshoz és oltással megelőzhető fertőzésekhez — köthető, és az AI ezeket a döntéseket is formálja.
Folytasd az appban — szavazz és szólj hozzá ➔