Hálózatba rendezett mesterségesintelligencia-csalók lepleztek le magukat a társkeresőkön

Az Anthropic mesterségesintelligencia-fejlesztő kutatói a Sleuthcon kiberbiztonsági konferencián mutatták be felfedezésüket: egy 28 alkalmazásból álló hálózatot találtak, amelyben a társkereső platformokon folyó beszélgetéseket szinte teljes egészében MI-vezérelt személyiségek irányították, miközben a felhasználók azt hitték, hogy valódi emberekkel ismerkednek – és ezért fizettek. A hálózatban szereplő alkalmazások – köztük a Dora, a Romi és a Doni – hagyományos társkeresőként viselkedtek, ám a beszélgetések túlnyomó részét MI által generált válaszok vezették; a rendszer még arra is fel volt készülve, hogy megnyugtassa a gyanakodni kezdő felhasználókat. Néhány úgynevezett gig-munkás is részt vett a működésben, de ők legfeljebb az élő felhasználók azonosítását végezték vagy előre megírt szövegeket választottak ki. A műszaki infrastruktúra rendkívül kifinomult volt: különböző MI-modellek állították elő a beszélgetéseket, az avatárképeket, sőt még az emodzsikat is. Az Anthropic adatai szerint a csalók egyetlen hónap alatt több mint 4700 MI-személyiséget hoztak létre, amelyek több mint 25 000 felhasználóval léptek kapcsolatba, és mindössze két hét alatt 2,36 millió üzenetet váltottak. A bevételszerzés egyszerűen működött: a felhasználók érméket vásároltak, hogy folytathassák a beszélgetést, miközben az alkalmazások a nap 24 órájában fenntartották az üzenetváltást. A fejlesztők gondosan kijátszották az alkalmazásboltok ellenőrzéseit: a jóváhagyás előtt még valódi társkeresőként működtek a programok, az MI-funkciókat és a fizetési rendszert csak utólag aktiválták, a tranzakciókat pedig harmadik fél fizetési szolgáltatóin keresztül bonyolították; a kódot is átrendezték, hogy elfedjék az alkalmazások közötti kapcsolatot. A nyomozás szerint a hálózat mögött kínai székhelyű fejlesztők állhatnak, noha az alkalmazások Kínában nem működnek, és működésüket MI-alapú kódolási asszisztensek és részletes tervezési dokumentációk támogatták. A csalók a letiltásokra gyorsan reagáltak: új fiókokat hoztak létre, vagy más szolgáltatókhoz váltottak. Bár az Anthropic megosztotta eredményeit az Apple-lel és a Google-lel, az eltávolítás lassan haladt, egyes alkalmazások hónapokkal később is elérhetők voltak. A kutatók szerint a megtévesztés itt nem mellékes elem, hanem a rendszer szerves része, ami jól mutatja, hogy a mesterségesintelligencia a bűnözést is alapjaiban változtatja meg.