AI-nyhederSIRIN fanger AI's opdigtede svar
Nyt værktøj opdager hallucinationer i AI-systemer og gør chatbot-svar mere pålidelige.
Det nye værktøj
Forskere har udviklet SIRIN, et værktøj der kan finde fejl i svar fra AI-chatbots. Mange AI-systemer finder svar ved at søge i store mængder tekst, men nogle gange giver de svar, der lyder rigtige, men er helt forkerte. SIRIN opdager disse såkaldte hallucinationer, så udviklere kan rette dem.
Sådan virker det
SIRIN er lavet til at arbejde med AI-systemer, der bruger såkaldt retrieval-augmented generation. Det betyder, at chatbot'en henter viden fra eksterne kilder, når den svarer. Værktøjet tjekker om svarene faktisk passer til den tekst, AI'en har brugt som kilde, og markerer uoverensstemmelser.
Hvad det betyder
For almindelige brugere betyder SIRIN, at chatbotten i fremtiden giver færre forkerte svar. Når udviklere kan finde og fjerne fejlene, bliver AI-assistenter mere pålidelige i hverdagen. Det gælder alt fra at spørge om vejr og nyheder til at få hjælp til arbejdsopgaver.
- SIRIN er et samlet værktøj til at opdage hallucinationer i AI-svar.
- Det er udviklet til AI-systemer, der bruger eksterne kilder.
- Værktøjet sammenligner svar med den tekst, AI'en har læst.
- Det kan bruges i både retrieval-augmented og hukommelsesbaserede systemer.
- Målet er at gøre AI-svar mere præcise og pålidelige.
Du får færre opdigtede svar fra chatbots, når udviklere bruger SIRIN til at fange fejl.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.