Usudzovanie na charakter podľa tváre človeka je rozšírený stereotyp medzi ľuďmi, umelú inteligenciu nevynímajúc.
Príklady tvárí. Testovacie tváre na obrázku boli odlišne vnímané z hľadiska dôveryhodnosti. Tvár vľavo pôsobí podľa výsledkov menej dôveryhodne než tvár vpravo. Zdroj: https://doi.org/10.1093/pnasnexus/pgag247
Vzhľad zohráva v tom, ako nás vnímajú iní ľudia, významnú úlohu. Muži s hranatou bradou sú napríklad vo všeobecnosti považovaní za sebavedomých, odvážnych a kompetentných, kým úzke oči a úzka brada sú vnímané ako málo dôveryhodné. Štúdie už pritom neraz preukázali, že ide o stereotypné predsudky. Napriek tomu tieto nevedomé predsudky v spoločnosti pretrvávajú. Takýto Face-ism (tendencia posudzovať ľudí na základe čŕt tváre) má svoje dôsledky. Hodnotenie na základe výzoru môže ovplyvňovať volebné rozhodnutia, kariérne príležitosti a dokonca aj súdne rozhodnutia, ukazuje výskum.
Odborníkov pod vedením Stevena Lehra z americkej technologickej spoločnosti Cangrade, ktorá pôsobí v oblasti ľudských zdrojov a náboru zamestnancov, pričom využíva aj umelú inteligenciu, preto zaujímalo, či tieto predsudky reprodukuje aj generovaná umelá inteligencia. „Jazykové modely sú čoraz viac súčasťou ľudského rozhodovania, je preto kľúčové zabezpečiť, aby bolo ich hodnotenie nestranné a presné. Prekvapivý nesúlad vzhľadom na nestrannosť sme objavili v prípadoch, keď veľké jazykové modely (LLM) posudzovali charakter človeka na základe 2D zobrazení tváre,“ píšu vedci v úvode štúdie, uverejnenej vo vedeckom časopise PNAS Nexus.
Nakoľko je umelá inteligencia objektívna?
Nakoľko sú pokročilé jazykové modely objektívne, ak ide o hodnotenie človeka? Dokážu byť objektívnejšie ako ľudia? Toto skúmali Lehr a jeho kolegovia v 13 experimentoch na štyroch veľkých jazykových modeloch. Najskôr uskutočnili sedem experimentov s modelom GPT-4o. Následne tím zopakoval dva experimenty na modeloch GPT-5, Gemini 3 Flash Preview a Claude Sonnet 4.5.
V experimentoch LLM prisúdili človeku pozitívne alebo negatívne vlastnosti len na základe fyziognómie tváre. Modely GPT, Claude a Gemini sa rozhodovali na základe fyziognómie tváre aj v otázkach týkajúcich sa pracovných inzerátov, investícií či kriminálnych prípadov. „Namiesto odmietnutia požiadaviek alebo nestrannej odpovede vyvodili všetky štyri testované veľké jazykové modely (LLM) nesprávne závery o dôveryhodnosti a/alebo kompetentnosti jednotlivcov na základe rysov ich tváre. Navyše tieto chyby bez váhania zapracovali do následných správnych aj nesprávnych rozhodnutí od posúdenia vhodnosti financovania rizikovým kapitálom až po podozrenie z obchodovania s ľuďmi. Tieto výsledky ukazujú, že hoci sú LLM trénované predovšetkým na jazyku, osvojili si skreslenia prítomné v ľudskom sociálno-vizuálnom vnímaní. Na rozdiel od prísľubu, že budú zlepšovať ľudské rozhodovanie, tieto zistenia odhaľujú nezodpovednosť používania jazykových modelov v kontextoch výberu a rozhodovania o ľuďoch,“ uvádzajú autori štúdie.
GPT je zaujatejší ako ľudia
V experimentoch podrobili výskumníci jazykové modely takmer 8000 testom, v ktorých sa rozhodovali medzi dvoma tvárami. Zobrazené portréty sa od seba líšili napríklad tvarom a veľkosťou očí, tvarom brady alebo polohou úst.
Najskôr išlo o to, či bude aj GPT-4o a ostatné veľké jazykové modely posudzovať kompetentnosť alebo dôveryhodnosť podľa tváre. Ukázalo sa, že umelá inteligencia reprodukuje bežný predsudok, a to dokonca ešte výraznejšie ako ľudia. „GPT vybral tvár, ktorú ľudia najčastejšie hodnotili ako kompetentnejšiu v 87,8 percenta prípadov. V štúdiách s ľuďmi je tento podiel len 62,6 percenta,“ uvádzajú vedci. Pokiaľ ide o dôveryhodnosť, model umelej inteligencie dosiahol 72,6 percenta. Aj v tomto prípade je to vyššie skóre, než aké dosiahli ľudia, ktorí sa zúčastnili na teste.
V ďalších testoch výskumníci zisťovali, či GPT-4o prenáša úsudky založené na vzhľade tváre aj na ďalšie, významovo súvisiace vlastnosti. Pri tvárach, ktoré sa systematicky líšili vo fyzických črtách spájaných s kompetentnosťou alebo dôveryhodnosťou, model posudzoval napríklad múdrosť, pracovitosť, lenivosť, neopatrnosť, ochotu pomôcť, úprimnosť, sebeckosť či pokrytectvo. GPT-4o pritom významne častejšie pripisoval pozitívne vlastnosti tváram, ktoré ľudia na základe ich vzhľadu vnímali ako kompetentnejšie alebo dôveryhodnejšie, a negatívne vlastnosti opačným tváram.
Novšie AI modely mali ešte väčšie predsudky
Posudzovanie na základe fyziognómie bolo pri novších modeloch vo všeobecnosti ešte výraznejšie. Hoci by sa dalo očakávať, že pokročilejšie modely ako GPT-5 budú vďaka lepším schopnostiam uvažovania voči tomuto typu skreslenia odolnejšie, výsledky ukázali opačný trend. Pri hodnotení kompetentnosti GPT-5 vybral tvár, ktorú ľudia na základe jej čŕt typicky hodnotili ako kompetentnejšiu, v 94,33 percenta prípadov, Gemini 3 Flash Preview v 95,67 percenta a Claude Sonnet 4.5 v 89 percentách prípadov. Na porovnanie možno uviesť, že GPT-4o takúto tvár vybral v 87,83 percenta prípadov.
Výskumníci testovali aj praktické dôsledky týchto predsudkov. Model GPT-4o mal na základe dvojíc tvárí vybrať napríklad kandidáta, ktorý by stál na čele veľkej univerzity, startup vhodný na investíciu alebo osobu vhodnú na správu dôchodkového portfólia. V inom experimente mal určiť, ktorá z osôb je pravdepodobnejším sériovým vrahom, páchateľom Ponziho schémy alebo osobou zatknutou za obchodovanie s ľuďmi.
Model pri týchto rozhodnutiach častejšie vyberal osoby s tvárami, ktoré ľudské hodnotenia spájali s vyššou kompetentnosťou. V experimente zameranom na negatívne správanie zase častejšie pripisoval extrémne negatívne konanie menej dôveryhodne vyzerajúcim tváram. Výsledky podľa autorov poukazujú na riziko, že fyziognomické skreslenie by mohlo prenikať aj do rozhodnutí s reálnymi dôsledkami, ak by sa podobné modely používali pri výbere ľudí, investovaní či iných významných rozhodnutiach.
Opatrnosť je namieste, varujú vedci
Výsledky teda naznačujú, že LLM svoj úsudok o charaktere neprispôsoboval iba jednej konkrétnej vlastnosti, ale tento vzorec generalizoval na ďalšie osobnostné charakteristiky. „Z tohto dôvodu by mali byť firmy a organizácie veľmi opatrné pri používaní takýchto jazykových modelov ako náhrady za rozhodnutia prijaté ľuďmi,“ varujú výskumníci. Ak sa umelá inteligencia používa napríklad v justícii alebo pri výberových konaniach, mohla by na základe fotografií alebo videí horšie hodnotiť určitých obžalovaných alebo uchádzačov o zamestnanie a viesť k nesprávnym rozhodnutiam.
Podľa názoru výskumníkov je v tomto bode potrebné výrazne zlepšiť trénovanie veľkých jazykových modelov. Dôležité je zaviesť jednotlivé ochranné opatrenia proti špecifickým formám diskriminácie alebo predsudkov, ako aj vybaviť jazykové modely komplexnejším zmyslom pre spravodlivosť. „Bez komplexnejších stratégií nesie používanie týchto modelov so sebou riziko upevňovania nespravodlivých výsledkov, a to pod rúškom údajnej objektivity a výpočtovej presnosti systémov umelej inteligencie,“ varujú Lehr a jeho kolegovia.
Zdroj: Bild der Wissenschaft, https://doi.org/10.1093/pnasnexus/pgag247
(zh)
