MI-hallucináció miatt csaknem kínai hajót támadtak volna amerikai erők

A CNN négy, az eseményt ismerő forrásra hivatkozva azt írta, hogy az amerikai hadsereg csaknem elfogott és átkutatott volna egy kínai hajót egy „teljesen hamis”, mesterséges intelligenciával készített hírszerzési jelentés alapján. Az Egyesült Államok Különleges Műveletek Parancsnokságának egyik elemzője egy chatbottal elemeztette a hajó rakománylistáját; a rendszer nyílt forrású információkat és titkos jelfelderítési adatokat fűzött össze, és az eredményt azt sugallta, hogy a hajó nukleáris fegyverprogramhoz köthető alkatrészeket szállít a Közel-Keleten keresztül. A katonaság légitámogatással készült az elfogásra, mielőtt kiderült volna, hogy a chatbot hibásan azonosította a rakomány anyagát; egy forrás szerint az eset „csaknem háborút robbantott ki”. A véletlen baleset annak ellenére történt, hogy az MI „hallucinálása” 2023-ban még a Cambridge Dictionary év szava is volt, és szakértők szerint lehetetlen megakadályozni, hogy a nagy nyelvi modellek kitalált állításokat fogalmazzanak meg. Mindez gyorsuló katonai MI-használat mellett történt: a Védelmi Minisztérium januárban „MI-gyorsítási stratégiát” jelentett be, múlt hónapban a Grok for Governmentot is elérhetővé tette, és Pete Hegseth védelmi miniszter szerint „az MI csak annyira jó, mint az adat, amelyet kap”. A minisztérium tavaly decemberben a Google Gemini for Governmentot választotta a GenAI.mil platform alapjául, és állítása szerint 1,5 millió aktív katonai alkalmazott használta már a generatív MI-eszközöket. A 2023-as, felelős katonai MI-használatról szóló államközi nyilatkozat még emberi felügyeletet és felelős parancsnoki láncolatot követelt meg — kérdés, hogy ez miként érvényesül az olyan rendszerekben, amelyek hibája egyetlen rosszul azonosított rakománylistán múlhat.