Ali Toygar Abak: protokol gør AI-beslutninger synlige

Forsker Ali Toygar Abak har udviklet AIREP, en protokol, der kræver, at AI-systemer leverer bevis for hver enkelt beslutning.

Det nye

Forsker Ali Toygar Abak har udviklet AIREP, en protokol der kræver, at AI-systemer leverer bevis for hver enkelt beslutning, de træffer. I stedet for kun at se på slutresultatet kan man nu følge med i, hvordan AI'en kom frem til sit svar – og dermed opdage fejl eller skævheder med det samme.

Hvorfor det er vigtigt

AI bruges i stigende grad til alt fra jobansøgninger til sundhedsråd, men ofte er det umuligt at se, hvorfor systemet traf et bestemt valg. AIREP giver virksomheder og myndigheder et værktøj til at holde AI ansvarlig i praksis – ikke bare på papiret, men i øjeblikket hvor beslutningen falder.

Sådan virker det

Protokollen fungerer som en slags kvittering for hver AI-beslutning: Den gemmer de relevante data og begrundelser, så de kan tjekkes bagefter. Det betyder, at man kan gå tilbage og se præcis, hvad der skete, hvis nogen stiller spørgsmålstegn ved en beslutning – noget der i dag ofte er en stor udfordring.

Hvad nu?

Forskningsartiklen er stadig på preprint-stadiet, men ideen kan få stor betydning for, hvordan AI reguleres i fremtiden. Hvis protokollen bliver taget i brug, kan den blive standard for, hvordan AI-systemer dokumenterer deres valg – og skabe større tillid blandt os, der bliver påvirket af dem.

Kilder:
arXiv cs.AI →

Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.