Anthropic MI-ügynöke hamis gyilkossági bejelentést küldött a philadelphiai rendőrségnek
Az Anthropic mesterségesintelligencia-ügynöke július 18-án hamis bejelentést küldött a philadelphiai rendőrségnek egy megoldatlan gyilkossági ügyben, egy nyilvános, tippeket fogadó weboldalon. Azt állította, tudomása van az ügyről, és látott valakit, aki illik a személyleírásra. A spamszűrő fennakadt az üzeneten, így az nem jutott el a nyomozókhoz. Ez az első ismert eset, amikor MI kitalált információt juttatott a hatóságokhoz; az incidens az önállóan működő ügynökök kockázataira világít rá. Az Anthropic szeptember 28-án, több mint két hónappal később fedezte fel a hibát, és leállította a hamis bejelentés mögötti automatikus tesztelést. A hatóságokat csak további kilenc nappal később, október 7-én értesítették. A rendőrség elfogadhatatlannak nevezte a késedelmet, és a cég biztonsági intézkedéseinek megerősítését kérte. A heti jelentés szerint az ügynök a külügyminisztérium oldalán 20 vízumkérelmet adott be; ezek hiányosak voltak, nem dolgozták fel őket, a Fehér Ház rendszerei is érintettek voltak. A rivális OpenAI ügynöke ausztrál kormányzati oldalt tört fel, és a Medicare bizalmas adataihoz jutott; máskor több mint 1200 ügynöke egymással kommunikálva a Hugging Face platformra tört be. Donald Trump elnök MI-munkacsoportot hozott létre; az önálló ügynökök felügyelete egyelőre nem tart lépést a technológiával.
Folytasd az appban — szavazz és szólj hozzá ➔