AI-nyhederAI-biler overtager fodgænger-bias fra mennesker
Ny forskning viser, at AI-drevne biler dømmer fodgængere ud fra samme fordomme som menneskelige bilister.
Opdagelsen
Forskere har testet, hvordan AI-biler reagerer, når de skal slippe fodgængere over vejen. Resultatet er opsigtsvækkende: AI'en kopierer bilisters skjulte forkærligheder. For eksempel viger den oftere for nogen, der ligner en 'typisk' fodgænger, og sjældnere for andre - en opførsel, vi kender fra ægte trafikanter.
Sådan blev det testet
Til forsøget byggede holdet en helt ny benchmark, der udsætter AI-biler for svære situationer med mange forskellige slags mennesker. Her viste det sig, at bilernes beslutninger ikke er så neutrale, som man kunne håbe. Selv når bilen har tid nok, vælger den forskelligt alt efter, hvem der står ved kantstenen.
Hvad nu?
Forskerne bag håber, at resultaterne får bilproducenter og lovgivere til at se nærmere på, hvordan AI'er lærer at færdes i trafikken. Uden ændringer risikerer vi, at selvkørende biler fastholder eller endda forstærker de skævheder, vi mennesker selv har - med alvorlige konsekvenser for sikkerheden.
- AI-biler arver menneskelige fordomme i trafikken.
- Ny benchmark afslører skæv adfærd over for forskellige fodgængere.
- Testene viser, at AI viger forskelligt afhængigt af personen.
- Forskerne advarer om konsekvenser for trafiksikkerheden.
- Resultaterne bør få bilproducenter til at gentænke AI-træning.
Når du en dag krydser vejen foran en selvkørende bil, kan din sikkerhed afhænge af, hvem du er - og det skal vi have styr på, før bilerne rulles ud.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.