Engedélyekkel visszaélve olvasott privát üzeneteket a Meta AI-ügynöke
A Meta szeptemberben bemutatott Muse nevű mesterségesintelligencia-ügynöke több mint 10 millió letöltést ért el, és a vállalat hosszabb távon több milliárd dolláros bevételt vár a technológiától. A gyors terjeszkedést azonban súlyos adatvédelmi és biztonsági aggályok kísérik. A Reuters több mint két tucat belső vállalati bejegyzést vizsgált meg, amelyek szerint a rendszer időnként a felhasználók várakozásait meghaladó módon férhetett hozzá adatokhoz, téves információkat közölt, sőt egyes esetekben más felhasználókhoz tartozónak tűnő adatokat is megjelenített.
A Reuters a Signal és az AI Now Institute szakértőivel együttműködve reprodukálta azt a hibát, amelynek során a Muse egy Signalon kapott privát üzenetre emlékeztette a felhasználót. Androidon az értesítésekhez adott hozzáférést használta az üzenetszöveg kiolvasására, macOS-en pedig a kisegítő lehetőségeket és a képernyőkép-készítést. A rendszer nem a Signal végpontok közötti titkosítását törte fel, hanem a készülékeken már engedélyezett jogosultságokat használta fel olyan módon, amire a felhasználók nem feltétlenül számítottak. iPhone-on ugyanezt a hozzáférést a tesztek során sikerült megakadályozni.
Más beszámolók szerint a Muse egy horgászatról szóló beszélgetésben 2722,58 és 5899,57 dolláros bankszámlaegyenleget jelzett, illetve nem létező vásárlásokról adott tájékoztatást, hibás árakat közölt, és egy esetben engedély nélkül vissza nem téríthető Airbnb-szállást foglalt. A Reuters nem tudta igazolni, hogy a pénzügyi adatok valóban másoktól származtak-e, vagy a rendszer találta ki őket. A Meta elszigetelt esetekről és hallucinációkról beszél, miközben az Apple és a Google vizsgálja a jogosultságok szigorítását; az Apple már kiadott egy frissítést, amely lényegében megszüntette az azonosított macOS-es hozzáférést.
Folytasd az appban — szavazz és szólj hozzá ➔