Súlyos nulladik napi sebezhetőség a Meta Muse mesterséges intelligencia-asszisztensében

A Meta néhány hete bemutatott Muse mesterségesintelligencia-asszisztensét Mark Zuckerberg azzal népszerűsítette, hogy „alapjaitól a magánéletre és a biztonságra tervezték”, Patrick Wardle macOS-biztonsági szakértő azonban nulladik napi sebezhetőséget talált, amely helyi alkalmazásoknak és terminálparancsoknak teljes irányítást ad az ügynök felett. Vasárnap az Amazon elkezdte blokkolni a Muse-t a saját oldalán. Az asszisztens időpontokat foglal, űrlapokat tölt ki, ügyfélszolgálatot intéz, vásárol, képet és dokumentumot készít, kedvenc alkalmazásokhoz kapcsolódik, és ha nincs megfelelő eszköz, a helyszínen hoz létre egyet. Csak macOS-en fut, Windows-verzió nincs; a WhatsApphoz, e-mailhez, naptárhoz és közösségi fiókokhoz csatlakozik. Ehhez a felhasználónak hitelesítenie kell a szolgáltatásokat, és széles rendszerjogosultságokat kell adnia: fájlírás lemezre, mikrofon, kamera, helymeghatározás, naptár. Wardle szerint a Muse ezzel felülírja az Apple évek óta épített alapvédelmét.

A hiba lényege, hogy bármely telepített alkalmazás vagy futtatott kód, a macOS-jogosultságoktól függetlenül, módosíthatja a dokumentálatlan beállításokat. A többség ártalmatlan, például a sötét mód, de megváltoztatható az a végpont is, ahol a diktálás átirata készül. Ezt a Meta-szerverről támadói címre lehet irányítani, így megszerezhető a Muse-fiókot hitelesítő token. Wardle az Arsnak azt mondta: nem kell átfogó macOS-kártevőt írni, az asszisztens saját jogosultságait lehet kihasználni. Több bizonyítékot készített, például rosszindulatú fájlok lemezre írását és fényképezést, gyakran anélkül, hogy a figyelmes felhasználó is jelet kapna. A Meta a megkeresésekre nem válaszolt. A diktálás a felhőben, naplózhatóan történik, holott a macOS helyben is tudna átírást végezni; Wardle szerint ha ezt választották volna, a támadás nem lett volna lehetséges. Két héten belül két Meta-bejegyzés foglalkozott a biztonsággal, miközben kiderült, hogy az Anthropic és a Google modelljeinek belső tesztelése nem szándékolt, külső, harmadik fél hálózatai elleni biztonsági incidensekhez vezetett.