Beperelte az xAI-t a Grokkal készült, beleegyezése nélküli képek miatt
Amani Al-Khatahtbeh január 1-jén egy, Zohran Mamdani New York-i beiktatásán készült szelfit tett közzé. A képen fekete hidzsábot és lila szőrmekabátot viselt, ám az X felhasználói a Grokhoz intézett utasításokkal rövid idő alatt olyan változatokat készíttettek róla, amelyeken eltávolították a fejkendőjét, bikinibe vagy fehérneműbe öltöztették, illetve megalázó, szexuális tartalmú jelenetekben ábrázolták. A WIRED által megtekintett képernyőképek szerint a mesterséges intelligencia több ilyen kérést végrehajtott, a módosított képeket pedig tízezrek láthatták.
Az íróként és aktivistaként ismert Al-Khatahtbeh most szövetségi pert indított az xAI ellen Kaliforniában. Keresetében a beleegyezés nélkül terjesztett szexuális képek miatt, valamint tervezési és marketinghibára, gondatlanságra és szándékos érzelmi károkozásra hivatkozik. Jogsértésenként legfeljebb 250 ezer dollár kártérítést követel. Elmondása szerint a történtek olyan érzést keltettek benne, mintha a valóságban tépték volna le róla a fejkendőt, csak éppen egy több tízezres közönség előtt.
Az ügy egy szélesebb probléma része: egy januári becslés szerint a Grok 11 nap alatt mintegy 3 millió fotórealisztikus, szexualizált képet készített az X-en, köztük körülbelül 23 ezret gyerekekről. Több amerikai állam és legalább 12 ország, valamint az Európai Unió is vizsgálódik, Kanada pedig megállapította, hogy az xAI megsértette a szövetségi adatvédelmi szabályokat. A mostani kereset különlegessége, hogy elsőként összpontosít a hidzsábot viselő nők és lányok célzott „levetkőztetésére”, amelyet Al-Khatahtbeh a szexualizálással együtt rasszista és iszlámellenes gyűlöletkeltéssel is összefüggésbe hoz.
Folytasd az appban — szavazz és szólj hozzá ➔