A „jó megjelenés” minden eddiginél fontosabbá válhat az AI korában – akár az állásunk lehet a tét

Lombroso olasz orvos egy elhunyt rab koponyáján talált mélyedésből tévesen arra jutott, hogy a bűnözők bűnözőnek születnek, és ennek jelét az arcukon hordják. Amerikai kutatók most megvizsgálták, mit kezdenek ugyanezzel a gondolattal a mai legfejlettebb modellek, és egy eddig rejtett AI-előítéletre bukkantak.

Mahzarin Banaji, a Harvard Egyetem kutatója, azt mondja, hogy az agyunkban külön terület felel az arcok feldolgozásáért.

Amit egy arcról leolvasunk, azt szinte gondolkodás nélkül elhisszük,

benyomásunkból rátermettségre, megbízhatóságra, vagy néha bűnözői természetre is következtetünk.

Banaji és két kollégája, Steven A. Lehr és Yash Lothe, azt akarta kideríteni, átvették-e ezt a reflexet a nagy nyelvi modellek, a ChatGPT, a Claude, a Gemini is. A PNAS Nexus folyóiratban augusztusban megjelent tanulmányuk szerint igen, méghozzá igencsak felerősítve.

Nyolcezer döntés két arc között

A kutatók 13 kísérletben, közel nyolcezer próbával tesztelték az OpenAI GPT-4o és GPT-5, a Google Gemini 3 Flash Preview és az Anthropic Claude Sonnet 4.5 modelljét.

Számítógéppel generált arcokat mutattak nekik, amelyeket korábbi emberi vizsgálatok alapján úgy módosítottak, hogy rátermettebbnek vagy kevésbé rátermettnek, megbízhatóbbnak vagy kevésbé megbízhatónak hassanak. A chatbotoknak két arc közül kellett választaniuk, vagy jellemvonásokat kellett megítélniük.

A GPT-4o az esetek 87,83 százalékában azt az arcot tartotta rátermettebbnek, amelyet az emberek is annak látnak. A kutatók becslése szerint embereknél ez az arány 62,65 százalék lenne. Megbízhatóság kérdésében a modell 72,67 százalékban választotta a „várt” arcot.

A kísérletek aztán a laboratóriumi helyzetből a valós tétek felé haladtak.

Amikor a modelleknek azt kellett eldönteniük, ki lehet sorozatgyilkos, emberkereskedő vagy csaló, 68,7 százalékban a kevésbé megbízhatónak látszó arcra mutattak. Amikor egyetemi rektort kellett választaniuk, vagy azt, hogy melyik startupba fektessenek, 75,19 százalékban a rátermettebbnek tűnő jelöltet ajánlották.

A torzítás más tulajdonságokra is átterjedt: a modellek a „jobb” arcokat okosabbnak és melegszívűbbnek is ítélték.

A legfurcsább talán az, hogy a GPT-4o makákóarcokra is alkalmazta ugyanezt a mércét. Az emberek által „kedvesebbnek” ítélt majmokat 66 százalékban választotta megbízhatónak. A szerzők szerint ez arra utal, hogy a modell vizuális fogalmakat sajátított el, nem csupán a képeket jegyezte meg.

Az újabb modell erősebben torzít

Azt várnánk, hogy a fejlettebb, jobban „nevelt” modellek kevésbé hajlamosak a pusztán kinézet alapján alkotott előítéletekre. A tanulmány ennek éppen az ellenkezőjét mutatta: a GPT-5 a rátermettségi feladatban 94,33 százalékban, a valós döntési helyzetekben 97,04 százalékban választotta a várt arcot. A Gemini és a Claude gyakran hasonló vagy erősebb torzítást mutatott, mint a GPT-4o.

A szerzők szerint ezt azért is érdemes komolyan venni, mert a modellek közben nagyon is „politikailag korrekt” módon vonakodnak kimondani a nyílt demográfiai sztereotípiákat. A nemre vagy a bőrszínre vonatkozó védőkorlátok működnek, de az arc formájára épülő AI-előítéletre nem terjednek ki.

A nagy nyelvi modellek olyan tükrök, amelyek szinte bármilyen emberi jellemzőt meglepően hűen adnak vissza

– mondta Lehr a PsyPostnak adott interjúban.

„Sajnos a modellek igenis mutatták a torzítást, méghozzá erősen” – tette hozzá. Az úgynevezett igazítási tréningről, amelynek az a dolga, hogy a modelleket az emberi értékekhez hangolja, így fogalmazott: „Olyasmit ért el, ami a felszínen ugyan egyenlőségelvűségnek látszik, de annál valami mélyebbre lenne szükség.”

A bűnöző, akit a koponyájáról ismertek fel

Hogy miért ébreszt ez rossz emlékeket, ahhoz vissza kell mennünk az 1870-es évek Itáliájába. Cesare Lombroso orvos, a paviai egyetem pszichiátria- és antropológiaoktatója egy Giuseppe Villella nevű elhunyt rab koponyáját vizsgálta, amikor olyan mélyedést talált rajta, amely a majmok koponyájára emlékeztette. Ebből arra jutott, hogy a bűnözők atavisztikus lények, az evolúció korábbi fokára visszaütő példányok, akikben „a primitív emberiség vad ösztönei” élnek tovább.

Lombroso koponyákat mért, és a korszak két divatos áltudományát, a frenológiát és a fiziognómiát ötvözte abban a tanban, amelyet bűnügyi antropológiának nevezett el. Bűntípusonként sorolta fel az árulkodó jegyeket.

A tolvajokat szerinte „kicsi, nyugtalan tekintetű, gyakran ferde vágású szem, sűrű, összenőtt szemöldök, torz vagy lapos orr, gyér szakáll és haj, valamint hátrahajló homlok” jellemzi. Az erőszaktevőknek „csillogó szemet, finom vonásokat, duzzadt ajkat és szemhéjat” tulajdonított.

Az 1876-ban megjelent A bűnöző ember című könyve négy további, bővített kiadást ért meg, és a szociáldarwinizmus korában Európa-szerte és Amerikában is hatott. Charles A. Ellwood amerikai szociológus úgy vélte, Lombroso „minden kétséget kizáróan bebizonyította, hogy a bűnözésnek biológiai gyökerei vannak”. A modern kutatás az elméletet teljesen megcáfolta.

Lombroso nem az első volt ezen az úton, és nem is az utolsó. A 18. században Johann Kaspar Lavater svájci teológus az arcvonásokból próbálta megállapítani, ki álnok, ki rosszindulatú, ki gyógyíthatatlanul ostoba. A viktoriánus Angliában Francis Galton elítéltek fényképeit exponálta egymásra, hogy kirajzolódjon a „bűnözőtípus”. A gondolatmenet végállomása a náci Németország volt: egy 1938-as gyerekkönyv, A mérges gomba, azzal tanította a gyerekeket a zsidók felismerésére, hogy „a zsidó orra görbe”.

A gép, amelynek nincsenek előítéletei

2016-ban két kínai kutató, Vu és Csang tanulmánya adott új életet a gondolatnak. Azt állították, hogy egy gépi tanulási rendszer arcképekből 89,5 százalékos pontossággal megmondja, kit ítéltek el bűncselekményért. A kutatás 1856, kínai férfiakról készült igazolványképre épült. A „bűnözők” csoportjába 730 kép került, köztük körözött gyanúsítottak és rendőrségektől származó fotók. Az „ártatlanok” 1126 képét az internetről gyűjtötték, különböző foglalkozású emberekről.

A szerzők külön hangsúlyozták módszerük tisztaságát:

Az emberi vizsgálóval vagy bíróval szemben egy gépi látási algoritmusnak semmiféle szubjektív terhe nincs, nincsenek érzelmei, semmilyen előítélete.

Fél évvel később a Google kutatója, Blaise Agüera y Arcas, valamint Margaret Mitchell és a Princetonon az arcról alkotott első benyomásokat kutató Alexander Todorov hosszú esszében szedte szét a tanulmányt. Rámutattak, hogy a „bűnöző” mintaképeken az emberek a homlokukat ráncolják, az „ártatlanokon” nem. A kínai tanulmányban mintaként bemutatott hat arckép közül a három „ártatlan” fehér gallért viselt, a három „bűnöző” nem.

Bár reflexszerűen alkotunk benyomást egy arcról, ebből nem következik, hogy ezek a benyomások pontosak is

– írták. A következtetésük sem hagyott kétséget: a mélytanulás, vagyis az a gépi tanulási módszer, amelyben a rendszer rengeteg példából maga tanulja meg a mintázatokat, nem olyan eszköz, amellyel a puszta külső alapján a büntető igazságszolgáltatást „gyorsítani” kellene, mert az ilyen kísérletek az igazságtalanságot örökítik tovább.

Akár az állásunk lehet a tét

Az arcelemzés azonban már rég kilépett a kutatólaborokból. A HireVue nevű amerikai cég videóinterjú-szoftverrel dolgozik: a jelöltek felvételen válaszolnak egységes kérdésekre, a válaszokat pedig algoritmusok rangsorolják.

Az Electronic Privacy Information Center nevű jogvédő szervezet 2019-ben tisztességtelen és megtévesztő kereskedelmi gyakorlat miatt panaszt tett a cég ellen az amerikai Szövetségi Kereskedelmi Bizottságnál (FTC). A HireVue 2020-ban bejelentette, hogy felhagyott az arckifejezések elemzésével, 2021 januárjában pedig egy független audit eredményeit is nyilvánosságra hozta.

Az indoklás prózai volt. A nem verbális jelek a legtöbb modellben körülbelül 0,25 százalékkal járultak hozzá az előrejelzéshez, és még az ügyfélszolgálati állásoknál is csak 4 százalékkal. „Ha ezt a csekély hasznot összevetjük azzal, mennyire aggódtak az emberek az esetleges elfogultság miatt, egyszerűen nem érte meg tovább elemezni az arcokat” – mondta Kevin Parker, a cég vezérigazgatója.

Lehr pontosan ismeri ezt a munkaerőpiaci terepet. A tanulmány vezető szerzője a Cangrade nevű cégnél dolgozik, amely AI-alapú jelöltszűrő szoftvert árul:

önéletrajzok automatikus rangsorolását, felméréseket és interjúkat kínál.

Arra figyelmeztetett, hogy a nagy téttel járó területeken, például a munkaerő-felvételben és a jogban, bevezetés előtt mindig gondosan ki kell szűrni az esetleges AI-előítéleteket. A kutatás korlátait is felsorolta: a modelleknek kényszerválasztás elé állítva kellett dönteniük, csak álló, kétdimenziós képeket láttak, és természetes helyzetben másképp viselkedhetnek.

Lehr hangsúlyozta, hogy kválasztási helyzetben a következetesség teszi komollyá a problémát: a torzítás így döntésről döntésre érvényesül.

Egy előítéletes személyzetissel szemben legalább van esélyünk: ő fáradt, szórakozott, néha meggondolja magát. A modell nem ilyen. Ugyanazt az arcot századszor is ugyanúgy ítéli meg. Ha pedig a „rossz” arcot kaptuk, nem lesz alkalmunk rácáfolni.