AI-nyhederForskere gør AI-genkendelse nemmere at forstå
Ny metode fra forsker bag 'Interpretable Multimodal Classification' lader AI forklare sine beslutninger, når den kombinerer billeder og tekst.
Det nye
En forsker fra arXiv har udviklet en metode, der gør AI'er bedre til at genkende ting ud fra både billeder og tekst – og samtidig kan forklare, hvorfor den valgte, som den gjorde. Modellen hedder Linear Discriminant Tree Ensembles og kombinerer to kendte teknikker på en ny måde.
Hvorfor det virker
Traditionelle AI-modeller er ofte 'sorte kasser', hvor man ikke kan se, hvad der foregår indeni. Den nye metode bygger på beslutningstræer, hvor hvert valg kan følges trin for trin. Den lineære analyse hjælper med at skelne mellem mange kategorier på én gang – uden at miste overblikket.
Hvad så?
Metoden kan bruges i praksis, hvor man har brug for at vide, hvorfor AI'en siger, at et billede er en kat – ikke bare at den gør det. Det kan være i sundhedsdiagnostik eller selvkørende biler, hvor man skal kunne stole på systemets vurderinger.
- Metoden kombinerer beslutningstræer med lineær diskriminantanalyse for at håndtere flere kategorier.
- Den er designet til at arbejde med flere typer data samtidig, fx billeder og tekst.
- Målet er at gøre AI-beslutninger gennemskuelige for almindelige mennesker.
- Forskeren bag er Mojtaba Moattari fra arXiv-miljøet.
- Artiklen er stadig under fagfællebedømmelse og har ikke fået endeligt DOI-nummer.
Når AI kan forklare sine svar, bliver det lettere for dig at stole på teknologien – og for eksperter at fange fejl, før de skader nogen.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.