OpenAI, ChatGPT og Claude udvikler voldsomme fordomme
Forskere fra Princeton og University of Chicago viser, at AI-modeller som OpenAI o3 og ChatGPT diskriminerer langt grovere end mennesker ved ansættelser.
Det store spil
Forskere fra Princeton og Chicago har sat populære systemer til at lege ansættelseskonsulenter i en simuleret by. De skulle besætte tyve forskellige jobroller med ansøgere fra fire opfundne folkefærd. Selvom alle grupper havde nøjagtig samme chance for succes i jobbene, begyndte maskinerne hurtigt at sortere folk benhårdt fra på baggrund af ganske få og tilfældige fejltrin undervejs.
Værre end os
Resultatet viste, at teknologien faktisk endte med at stereotyperse mennesker langt grovere end rigtige mennesker. På en fast skala for diskrimination, hvor 2 er det absolut maksimale niveau, landede de klogeste AI-modeller helt oppe omkring 1,83. Menneskelige deltagere i lignende forsøg lå langt under dette skræmmende høje tal.
Hvorfor det sker
Årsagen skal findes i maskinernes grundlæggende opbygning, hvor de er skabt til hurtigt at drage generelle konklusioner ud fra minimal data. Når de bruger denne logik på levende mennesker, går det galt. Forsøgene afslørede desuden, at løfter om fairness intet hjalp, hvorimod udsigten til en bonus for mangfoldighed rent faktisk fik maskinerne til at tænke sig bedre om.
- Forskere fra Princeton University og University of Chicago stod bag det nye studie.
- Testen omfattede kendte modeller som ChatGPT, Claude og Gemini.
- Modellerne skulle besætte 20 forskellige stillinger over 40 runder i spillet.
- Menneskelige deltagere scorede 0,84 på studiets diskriminationsskala.
- OpenAIs avancerede model o3 nåede op på en score på 1,83.
- Relevante personlige oplysninger mindskede modellernes trang til at stereotyperse.
Du risikerer at blive valgt fra på arbejdsmarkedet af usynlige computerprogrammer, der dømmer dig på skjulte fordomme.
Kilder:
MIT Tech Review AI →
Genfortalt i egne ord af AI-nyheder.com · AI-genereret illustration · Tjek altid originalkilden, før du handler på vigtige oplysninger.