Az amerikai erők szinte kiküldtek gépeket egy kínai hajó ellen AI-hallucináció miatt

A CNN szerint az amerikai erők majdnem feltartóztattak egy Közel-Keletre tartó kínai hajót egy mesterséges intelligenciával készült katonai jelentés miatt: a bevetésre szánt gépek már a levegőben voltak, a küldetést az utolsó pillanatban állították le. Egy meg nem nevezett katonai elemző a hajó rakományjegyzékében aggasztó adatokat talált, és AI-t használt a titkos és nyílt forrású információk értelmezéséhez. Az algoritmus arra jutott, hogy a hajó valószínűleg nukleáris fegyveralkatrészeket szállít; az ilyen téves kimenet, a hallucináció, ismert jelenség.

Az elemző a következtetéseket hagyományos hírszerzési jelentésbe foglalta anélkül, hogy kétszer-háromszor ellenőrizte volna. A dokumentum riadalmat keltett, elfogó művelet tervezése indult, a fegyveres egységek a hajó átvizsgálására készültek. Az utolsó pillanatban átnézett adatokból kiderült, hogy az AI tévedett. A CNN szerint, ha a műveletet végrehajtják, rendkívül súlyos nemzetközi konfliktus alakulhatott volna ki. A téves állításokat nehezebb kiszűrni, ha valós adatokkal keverednek. Az Egyesült Államok haderejénél jelenleg nincs egységes irányelv az információk ellenőrzésére, és az emberi szűrő sem mindig elég: a jelentést továbbító félre a fogadó oldal megbízható forrásként tekinthetett. A hír Donald Trump AI-fejlesztési törekvései és egy, az Űrhaderő mintájára tervezett AI-erő kontextusában kapott figyelmet.