AI-nyhederAidan Kierans: AI's moral testes for ensidigt
Aidan Kierans og kolleger viser, at standardtests af AI's moralske dømmekraft kun ser den halve historie. De foreslår, at fremtidens tests skal dække mere end pæne svar.
Det nye fund
Forskere bag et nyt studie påpeger, at nuværende evalueringer af AI's moralske ræsonnement kun fanger en del af virkeligheden. De fleste tests fokuserer på, hvad AI siger i kontrollerede situationer, men overser, hvordan systemerne faktisk opfører sig i praksis. Det kan give et misvisende billede af, hvor pålidelige AI-assistenter er, når de rådgiver om etiske dilemmaer i hverdagen.
Kritikken
Forskerne kritiserer, at standardtests ofte belønner svar, der lyder moralsk korrekte, uden at tjekke om AI'en faktisk kan følge op i komplekse, virkelige scenarier. Eksempelvis kan en chatbot give et pænt svar om ligestilling, men alligevel anbefale diskriminerende handlinger i en konkret situation. Evalueringerne misser med andre ord halvdelen af billedet, som titlen siger.
Hvad nu?
Studiet foreslår, at fremtidens tests skal kombinere spørgsmål med simulerede hverdagssituationer, hvor AI'en skal handle – ikke bare tale. Det kræver nye metoder, men kan give et langt mere retvisende billede af, hvornår vi kan stole på AI i følsomme områder som sundhed, jura og uddannelse. For almindelige brugere betyder det, at kritisk stilling til AI's råd stadig er nødvendig.
- Forskningsartiklen hedder 'Position: Evaluations of AI Moral Reasoning Still Miss Half of the Picture'.
- Den er skrevet af Aidan Kierans og fire andre forskere.
- Nuværende AI-evalueringer overser ifølge forskerne handlinger i virkelige scenarier.
- Standardtest belønner ofte svar, der lyder moralsk korrekte, uden at tjekke praksis.
- Forskerne foreslår simulerede hverdagssituationer i fremtidige tests.
- Studiet er uploadet til arXiv under kategorien cs.AI.
Du bør ikke tage AI's moralske råd for gode varer – tests viser kun halvdelen af billedet. Vær kritisk, når AI skal hjælpe med etiske valg i din hverdag.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.