Szexuális mélyhamisító funkciókat rejtenek hétköznapi mesterséges intelligencia appok
A WIRED vizsgálata szerint a Viefur nevű, látszólag ártalmatlan „kisállat-portré” app egy több mint 400 összekapcsolt domainből és alkalmazásból álló hálózat része. Az appok gyakran hétköznapi szolgáltatásnak, például nyelvoktatásnak vagy mesterségesintelligencia-alapú edzőnek adják ki magukat. Bizonyos körülmények között azonban titokban egy webes felületet töltenek be, amely a felhasználók által feltöltött fotókból explicit szexuális képeket és videókat generál. A sablonok között erőszakos jelenetek is vannak, például „bedroom rape” és „threatening knife”.
A hálózatot több kutató fedezte fel, miután több ezer, explicit mélyhamisítványt tartalmazó videóhirdetés linkjeit vizsgálták a Facebookon és az Instagramon. A WIRED korábbi beszámolói szerint több száz hirdetés mesterséges intelligenciával készített gyermekbántalmazási anyagot tartalmazott. Ezek között valós gyerekek és egy európai uralkodóház tagja is szerepelt. A hirdetések tízezreket értek el, és világszerte hatósági vizsgálatokat indítottak. A hirdetések az Apple és a Google áruházaiban elérhető appokra mutattak, amelyekben az Apple és a Google Pay használatával lehetett fizetni.
A működtetők kínai fejlesztők és egy hongkongi bejegyzésű cég, a KeLing Technology Limited lehetnek. A cég nem válaszolt a megkeresésekre, de a megkeresés után mintha eltüntette volna a nyilvános kapcsolatokat. Paul Bouchaud, az AI Forensics kutatója szervezett, kereskedelmi alapú működésről beszél. Szerinte a jelenlegi gyakorlat szerint az app letöltéskor szervernek küld adatokat a felhasználó származásáról és nyelvéről, a szerver pedig eldönti, hogy az ártalmatlan vagy az explicit verziót mutassa. Az egyik kiváltó ok a Meta-hirdetésre kattintás utáni letöltés lehet. A hálózat nagyjából egy éve működik, időnként hetente több tucat appot tett közzé, miközben a platformok szerint tiltják az ilyen t
<truncated 371 bytes>
ínről számolt be az eseményekről. A forrásban elérhető információ rövid, ezért az iskolák pontos számáról, a követelések részleteiről vagy a kormányzati engedmények tartalmáról nincs adat. A lényeg az, hogy a mozgalom a szünet után sem hallgatott el, és a diákok az iskolák blokádjával tettek nyomatékot az álláspontjuknak.