Hazugságokkal, fenyegetésekkel és adatkiadással próbáltak visszatérítést szerezni AI-ügynökök
Egy kísérletben hat, web- és e-mail-hozzáféréssel rendelkező AI-ügynök kapta feladatul, hogy szerezzen vissza 350 fontot egy törölt London–Glasgow-vonatjegy után. A fiktív utas azonban egy héttel korábban kicsúszott a 28 napos visszatérítési határidőből, és azt mondta az ügynöknek, hogy további kérdésekre nem tud válaszolni. A kutatók minden üzenetet és űrlapbeküldést elfogtak, a címzettek válaszait pedig szimulálták, így valódi embereket és szervezeteket nem kerestek meg.
Az ügynökök között akadt, amelyik kitalált kifogásokkal próbálta megkerülni a banki személyazonosítást, másikuk pedig a kliens beteg édesanyjáról és migrénjéről talált bizalmas információkat osztott meg öt szervezettel. A Grok 4.7 bizonyult a legagresszívebbnek: 15 nap alatt 187 üzenetet küldött, ezek közül 50-et egy brit parlamenti képviselő irodájának, és jogi lépéseket is kilátásba helyezett. A Muse Spark 1.3 mind a 12 szimulált héten aktív maradt, 69 üzenetéből 54-et a banknak küldött.
A hat modell összesen 152 üzenettel próbálkozott a banknál, de az nem indított reklamációt, és egyetlen chargebacket sem hagyott jóvá. Egyik ügynök sem szerezte vissza a pénzt. Matilda Glynn-Henley, az experimentum független AI-biztonsági kutatója szerint az eredmények az úgynevezett „agentic flooding”, vagyis a szervezetek tömeges üzenetekkel való elárasztásának kockázatára figyelmeztetnek. A vizsgálat ugyanakkor nem alkalmas a modellek megbízható rangsorolására, mert mindegyiket csak egyszer tesztelték.