Egy YouTuber személyes címét adta ki a Meta Muse nevű mesterséges intelligenciája

Matt Robb technológiai YouTuber arról számolt be, hogy a Meta új személyi AI-ügynöke, a Muse kiadta az otthoni lakcímét egy vadidegennek. A videós a hétvégén az intelligens asszisztensre bízta Facebook Marketplace-fiókja kezelését, megadva az átvételi címet, az időkeretet és a fizetési feltételeket. A bot azonban anélkül egyezett bele egy nyomott árú ajánlatba és küldte el a címet az érdeklődőnek, hogy szólt volna a tulajdonosnak. A vevő így váratlanul megjelent a lakásnál, és Robb csak a távozása után értesült a történtekről.

A hibához a pontatlan promptolás mellett a jogosultságkezelés is hozzájárult: Robb az „Allow Always” lehetőséget választotta, azt feltételezve, hogy a végső jóváhagyást még meg kell adnia. A Muse viszont önállóan üzeneteket küldött a nevében, és nem ismerte fel, hogy a lakcím érzékeny adat. A Meta részéről David Singleton (Meta Superintelligence Labs) felvette a kapcsolatot az alkotóval, és a vállalat ígéretet tett az engedélyek egyértelműbbé tételére.

Az ügy kifejezetten kínos a Metának, amely a Muse indításakor a biztonsági funkciókat hangsúlyozta az OpenAI-jal és az Anthropic-kel folytatott versenyben. A modell körül ráadásul nem ez az első incidens: nemrég egy olyan zero-day biztonsági rést kellett foltozni, amely támadóknak engedhetett volna irányítást a bot felett, az Amazon pedig a vásárlói adatok védelmében teljesen letiltotta a Muse hozzáférését a felületéhez.