Saját emlékké válhat az MI videó-összefoglalójában látott tévedés
Amerikai kutatók szerint a videókról készített mesterségesintelligencia-összefoglalók hibái nemcsak félretájékoztathatják az olvasót, hanem az emlékezetét is tartósan torzíthatják. A ChatGPT és a Gemini által készített összefoglalók vizsgálatakor kiderült, hogy a rendszerek gyakran hagytak ki fontos részleteket, félreértelmeztek információkat, illetve pontatlan elemeket „hallucináltak”. A kutatók szerint a vizsgált szövegek a lényeges részletek felét nem tartalmazták, ezért a probléma nem merül ki a látványos ténykitalálásban.
A Georgetown Egyetem és a Washingtoni Egyetem kutatói animációs videókkal tesztelték, hogyan hat mindez az emberek későbbi felidézésére. A felvételeken egy piros autó egy stop- vagy egy elsőbbségadás-táblás kereszteződéshez érkezett, jobbra fordult, majd elütött egy gyalogost. A résztvevők 24–48 órával később pontos vagy félrevezető, mesterséges intelligencia által készített összefoglalót olvastak. A pontos szöveget olvasók 83,6 százaléka idézte fel helyesen a táblát, a hibás összefoglaló után viszont csak 44,8 százalékuk válaszolt jól. Egyetlen téves információ több mint 38 százalékponttal rontotta az eredményt, és az sem számított, hogy a résztvevők emberi vagy gépi szerzőnek gondolták-e a szöveget.
A tanulmány jelenleg arXiv-preprintként érhető el. A kutatók a jövőben valódi felvételekkel, köztük rendőrségi testkamerák anyagaival vizsgálnák, hogy az automatikus jelentések miként befolyásolhatják a rendőrségi és civil interakciókról kialakított emlékeket. Mattea Sim vezető kutató szerint különösen nagy körültekintésre van szükség a nagy téttel járó helyzetekben.
Folytasd az appban — szavazz és szólj hozzá ➔