AI-nyhederRosa Ralinirina: Ny metode skal gøre AI mere troværdig
Forskere har udviklet et formelt system til at teste, om AI-forklaringer er robuste og pålidelige – et skridt mod certifikater for AI-tillid.
Det nye
En forskergruppe ledet af Rosa Elysabeth Ralinirina har lagt rammerne for, hvordan man systematisk kan revidere AI's forklaringer. Hidtil har der ikke været en fælles standard for at vurdere, om en AI's begrundelser holder stik. Den nye metode giver både virksomheder og myndigheder et værktøj til at tjekke, om AI'en svarer ærligt – og ikke bare siger noget pænt.
Hvordan virker det?
Metoden bygger på formelle kriterier for robusthed og troværdighed. Det betyder, at man kan måle, om små ændringer i input får AI'en til at lave helt andre forklaringer. Hvis en AI eksempelvis pludselig ændrer sin begrundelse for en kreditafgørelse, når et tal ændres en anelse, så afslører revideringen det. Det gør processen gennemsigtig og kan føre til egentlige tillidscertifikater.
Hvad nu?
For almindelige mennesker betyder det, at AI i fremtiden kan få et officielt stempel, når den er testet grundigt. Det kan gøre en forskel, når du møder AI i banken, på hospitalet eller i det offentlige. Men der er stadig et stykke vej, før metoden er implementeret i praksis – forskerne har lagt fundamentet, men det kræver opbakning fra både industri og lovgivere.
- Forskerne foreslår en formel ramme til at revidere AI's forklaringer.
- Metoden tester både robusthed og troværdighed i AI-systemer.
- Det kan bruges til at udstede tillidscertifikater for AI.
- Målet er at sikre, at AI's begrundelser er stabile og ærlige.
- Relevansen er stor for banker, sundhedsvæsen og offentlige instanser.
Du bør kunne stole på, når en AI forklarer sine beslutninger – den nye metode kan føre til, at sådanne forklaringer bliver testet og godkendt, så du ved, hvad du kan regne med.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.