Népszerű AI-modellek arckép alapján ítélnek bűnözésről és munkateljesítményről

A nyelvi és képfeldolgozó mesterségesintelligencia-modellek gyakran teljes egészében az arcvonásokból következtetnek jellemre, megbízhatóságra, kompetenciára vagy akár bűnelkövetési hajlamra – ugyanazzal a torzítással, amit emberek is elkövetnek. A PNAS Nexusban megjelent kutatás szerint az arc fizikai szerkezete nem ad valós információt a személyiségjegyekről, a modellek mégis súlyos döntéseket hoznak így. Az úgynevezett arc-jellem következtetés a forma és a textúra apró eltéréseiből indul; egy 2014-es vizsgálatban már hároméves gyerekek is következetesen arcból ítéltek.

A munkát Steven A. Lehr (Cangrade, Inc.) vezette Mahzarin R. Banaji (Harvard Egyetem, Richard Clarke Cabot társadalmi etika kutatóprofesszor, a Santa Fe Institute külső oktatója) és Yash Lothe mellett. Banaji szerint az arcok átható társas ingerek, az agyban külön arcfeldolgozó terület van, ezért a döntéseinkben is ott van az arcalapú ítélet. Lehr úgy látja, a nagy nyelvi modellek tükörként hűen visszaadják az emberi sajátosságokat; a kutatók azt is vizsgálták, a nyelvi tanítás és a káros kijelentéseket tompító igazítás megvédi-e a gépeket a vizuális hibáktól. Nem védte meg: a torzítás erős volt, általános egalitárius viselkedés jele nélkül.

Tizenhárom kísérletben, közel nyolcezer próbában négy nyelvi modellt teszteltek. Az első két kísérletben a GPT-4o modell számítógéppel generált, kompetencia- vagy megbízhatóságjegyekben módosított arcpárokat kapott; a különbségeket szórásban mérték, a nagyon eltérő és a majdnem azonos párokat is. Hatszáz kompetenciapróbában a modell az emberek által rendszerint kompetensnek tartott arcot az esetek 87,83 százalékában választotta, hatszáz megbízhatósági próbájában 72,67 százalékban. A torzítás erősebb volt, ha az arcok fizikailag jobban eltértek.