A Meta Muse részletes adatlapot készíthet a felhasználók ismerőseiről
A Meta Muse nevű személyi AI-asszisztenst már milliók töltötték le, és sok felhasználó banki, üzenetküldési vagy egészségügyi adatokhoz is hozzáférést biztosít neki. Kutatók a rendszer belső fájljain és utasításain keresztül azt vizsgálták, hogyan működik az alkalmazás, amely a Meta szerint átláthatósági okokból hozzáférhető. Karan Joshi független AI-biztonsági kutató a Muse chatfelületén keresztül másoltatta ki a rendszer saját szoftveres állományait, majd megosztotta a feltárt információkat a WIRED-del.
Az utasítások alapján a Muse óránként külön adatlapot készíthet a felhasználó életében fontos emberekről: családtagokról, partnerekről, barátokról, kollégákról, munkatársakról és olyanokról is, akiket a felhasználó követ. A rendszer ezeken az oldalakon rögzítheti például az illető lakóhelyét, munkáját, a közös ügyeket, a fontos dátumokat, a kapcsolat történetét, közelségét és aktuális állapotát. Javaslatokat is adhat arra, miként lehet egy kapcsolatot erősíteni, például mikor érdemes telefonálni vagy mire kellene visszatérni egy beszélgetésben.
A Muse csak a rendelkezésére álló bizonyítékokra támaszkodhat, a kitalált részletek pedig az utasítások szerint rosszabbak az üres adatlapnál. Carissa Véliz, az Oxfordi Egyetem kutatója szerint különösen aggasztó, hogy az ilyen rendszerek nemcsak a felhasználó által közölt, hanem a viselkedésből kikövetkeztetett információkat is összegyűjthetik. Meta szerint minden felhasználó elkülönített virtuális gépet kap, a memóriák törölhetők, a külső szolgáltatások leválaszthatók, és az érzékeny műveletekhez a rendszer emberi jóváhagyást kér.