AI-nyhederXiang Yin vil gøre AI bedre til at vurdere mennesker
Forsker bag ny teoretisk model, der skal gøre AI's evalueringer mere gennemsigtige og retfærdige.
Det nye
Xiang Yin og kolleger har udviklet et argumentationsbaseret fundament for evaluerende AI - altså systemer, der vurderer mennesker. I stedet for at AI bare giver et resultat, skal den kunne forklare hvorfor med logiske argumenter. Det kan gøre vurderinger lettere at forstå og udfordre.
Hvorfor det rager dig
AI bruges allerede til at vurdere jobsøgende, studerende og låneansøgere. Hvis systemet kan argumentere for sine beslutninger, kan du bedre se, om den er fair - og klage, hvis noget er galt. Det giver dig mere magt i mødet med automatiske vurderinger.
Kritikken
Forskerne bag peger selv på, at argumentationsmodellen kræver, at alle regler og præmisser er klart definerede på forhånd. Det kan være svært i praksis, hvor virkeligheden er rodet. Alligevel ser de det som et vigtigt skridt mod mere troværdig AI.
- Artiklen er skrevet af Xiang Yin og fire andre forskere.
- Modellen bygger på argumentationsteori fra filosofien.
- AI skal kunne forklare sine vurderinger med logiske argumenter.
- Målet er at gøre evaluerende systemer mere transparente.
- Den kan bruges til at vurdere retfærdigheden i automatiske beslutninger.
Du får lettere ved at se, hvorfor en AI vurderer dig, som den gør - og kan udfordre den, hvis du synes, den tager fejl.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.