Ny metode sporer AI's faktatjek
Forskere har udviklet et system, der gør det muligt at se præcis, hvilke beviser AI bruger til at underbygge sine påstande.
Sådan virker det
En ny metode kaldet Evidence-Ledger Adjudication gør det muligt at spore, hvilke konkrete beviser en AI-model har brugt, når den kommer med en påstand. Systemet fungerer som en slags digital hovedbog, der registrerer linket mellem påstand og bevis. Det betyder, at man kan gå tilbage og tjekke, om AI'en har ret.
Hvorfor det er nyt
Indtil nu har det været svært at gennemskue, hvordan AI-modeller når frem til deres svar. De fungerer ofte som en sort boks. Den nye metode åbner lågen og giver indblik i ræsonnementet. Det kan især være nyttigt i forskning, journalistik og jura, hvor troværdighed er afgørende.
Hvad nu?
Metoden er stadig på forskningsstadiet og er ikke klar til bred brug. Men potentialet er stort: Hvis det bliver standard, kan vi få langt mere tillid til AI's svar. Næste skridt er at teste systemet på større og mere komplekse datasæt.
- Metoden kaldes Evidence-Ledger Adjudication og kommer fra arXiv.
- Systemet skaber en sporbar forbindelse mellem en påstand og dens bevis.
- Det adresserer problemet med AI som en 'sort boks'.
- Metoden kan gøre AI mere troværdig i forskning og jura.
- Forskningen er præsenteret på arXiv og afventer peer review.
Du kan fremover stole mere på AI's svar, fordi du kan se præcis, hvilke kilder den bygger på.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.