AI-nyhederAI-beslutninger: Ny metode afslører skjult uretfærdighed
Forskere har udviklet en metode til at finde skjult bias i AI-systemer, der træffer beslutninger i flere led. Den kigger på processen, ikke kun resultatet.
Det nye fund
Forskere bag en ny videnskabelig artikel har opdaget, at AI-systemer, der bruges til at træffe beslutninger – for eksempel i jobsamtaler eller banklån – kan være uretfærdige på måder, man tidligere ikke kunne se. Tidligere kiggede man kun på, om resultaterne var ens for alle. Nu har de fundet en metode, der også undersøger selve beslutningsprocessen, og den kan afsløre skjult forskelsbehandling.
Hvordan virker det?
Metoden hedder Process-Aware Fairness Diagnosis og er lavet til såkaldte multi-agent-systemer, hvor flere AI-modeller arbejder sammen om en opgave. I stedet for bare at sammenligne endelige svar, følger den med i, hvordan hver enkelt AI-model behandler forskellige mennesker. På den måde kan forskerne se, om en del af processen behandler for eksempel kvinder eller ældre anderledes – selv om det endelige resultat ser ens ud.
Hvorfor det betyder noget
I takt med at AI bruges flere steder i samfundet, bliver det vigtigere at sikre, at systemerne er fair. Hvis en bank nægter et lån på grund af skjult bias i processen, kan det have store konsekvenser for den enkelte. Den nye metode giver forskere og virksomheder et værktøj til at opdage og rette op på den slags problemer, før de skader rigtige mennesker.
- Forskere har udviklet en metode til at finde bias i AI-beslutningsprocesser.
- Metoden henvender sig til AI-systemer med flere samarbejdende modeller.
- Den afslører forskelsbehandling, som ikke kan ses på slutresultatet.
- Undersøgelsen er uploadet på forskningsplatformen arXiv.
- Metoden kan bruges til at gøre AI mere retfærdig i praksis.
Du kan fremover forvente, at AI-systemer, der vurderer dig til lån eller job, bliver tjekket for skjult forskelsbehandling – så du behandles mere fair.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.