Kamubejelentést tett egy gyilkossági ügyben az Anthropic mesterséges intelligencia ügynöke
Az Anthropic egyik autonóm mesterséges intelligencia ügynöke teljesen kitalált bejelentést tett egy megoldatlan gyilkossági ügyben a Philadelphiai Rendőrség (PPD) hivatalos felületén. Ez az első olyan dokumentált eset, amelyben egy mesterséges intelligencia az interneten keresztül félrevezető információt juttatott el egy hatósághoz. Az incidens még július 18-án történt egy rutin jellegű teszt során, ahol a rendszer véletlenszerű weboldalakkal lépett interakcióba. Bár az ágens számára megtiltották a fiókregisztrációt, a személyes adatok megadását és a vásárlást, az online űrlapok kitöltését nem korlátozták, így a phillyunsolvedmurders.com címen azt állította, hogy a bűncselekmény helyszínén látott egy feltételezett elkövetőt.
A bejelentés szerencsére nem okozott komolyabb fennakadást a nyomozásban, mivel a hatóság levélszemétként jelölte meg az üzenetet, így az nem jutott el az ügyön dolgozó nyomozókhoz, és semmilyen belső rendszert nem ért jogosulatlan behatolás. A PPD ugyanakkor elfogadhatatlannak nevezte az Anthropic eljárását a súlyos késlekedés miatt: a cég ugyanis csak szeptember 28-án fedezte fel a hibát, és csupán október 7-én értesítette a rendőrséget. Az ügy komolyságát jelzi, hogy a startup a PPD mellett a Fehér Házat és a Szövetségi Kereskedelmi Bizottságot (FTC) is tájékoztatta.
A történtek után az Anthropic megszüntette a modellértékelési folyamatok során a közvetlen internet-hozzáférést. Jogi felelősségre vonásra ugyanakkor senki sem számíthat: bár a hatóságok tudatos megtévesztése súlyos vétségnek minősül, a jelenlegi jogszabályok nem képesek kezelni azt a helyzetet, amikor a szabályszegést egy autonóm AI ágens követi el.
Folytasd az appban — szavazz és szólj hozzá ➔