Mérő Vera fogyáshoz kért AI-tanácsot, életveszélyes javaslatokat kapott
Mérő Vera író, újságíró és jogvédő, a Nem tehetsz róla, tehetsz ellene Alapítvány alapítója az Óbudai Egyetem Mi lesz velünk? című podcastjának november 2-i adásában arról beszélt, milyen kockázatokkal jár, ha egészségügyi és lelki kérdésekben is a mesterséges intelligenciára hagyatkozunk. Tavaly nyáron néhány kiló leadásához chatbotot kért segítségül: vele tervezte az étkezéseit, számolta a kalóriákat, és a sportot is az étrendhez igazította. A módszer működött, fogyott is, de közben olyan tanácsokat kapott, amelyeket saját bevallása szerint életveszélyesnek tartott: ha követi őket, gyakorlatilag nem élné túl. A pontos javaslatokat és a nyelvi modell nevét nem árulta el.
A probléma tágabb: az Egészségügyi Világszervezet korábban figyelmeztetett, hogy a generatív mesterséges intelligencia hamis, pontatlan vagy hiányos egészségügyi információt is előállíthat. Mérő szerint aggasztó, hogy egyre többen lelki támaszként is használják a chatbotokat. Ő maga kísérletként súlyos szorongásról és öngyilkossági gondolatokról beszélt egy modellnek; a rendszer eleinte támogatóan reagált, egy későbbi, veszélyre utaló kérdésnél viszont nem kezelte megfelelően a beszélgetés előzményeit. Az Indexnek korábban Tari Annamária pszichológus is arról beszélt, hogy az állandó elérhetőség miatt könnyebb a technológiához fordulni személyes gondokkal. Mérő hangsúlyozta: saját kompetencia nélkül nehéz kiszúrni, mikor mond hülyeséget az AI. Munkájában továbbra is használja szövegek lejegyzésére, javítására és ellenőrzésére, de a végső döntést magánál tartja, és a technológiát inkább mosógéphez hasonlítja: végezze az időigényes munkát, ne mondja meg, hogyan éljünk.
Folytasd az appban — szavazz és szólj hozzá ➔