AI-nyhederJin Liu og kolleger lancerer TriQua til AI-faktatjek
Forskere bag TriQua vil gøre det nemmere at vurdere, om AI-svar er sande, ved at kombinere detaljer og kontekst.
Det nye værktøj
Jin Liu og to medforskere har udviklet TriQua, en metode, der tester, hvor præcise AI-genererede svar er. I stedet for kun at se på enkeltdele, tager TriQua højde for både detaljegrad og sammenhængen i svaret. Det gør den velegnet til at opdage fejl, som andre måder overser.
Hvorfor det betyder noget
Når du spørger en AI-chatbot om noget, kan svaret lyde rigtigt, men være forkert. TriQua hjælper med at finde de skjulte fejl. Det kan gøre AI mere pålidelig i hverdagen, for eksempel når den bruges til at søge information eller skrive tekster.
Sådan virker den
TriQua skiller sig ud ved at se på både, hvor specifikt et svar er, og hvilken kontekst det indgår i. Det giver en mere nuanceret vurdering end ældre metoder, der ofte kun tjekker enkeltord eller korte sætninger. Forskerne håber, at værktøjet kan blive standard for AI-evaluering.
- TriQua er udviklet af Jin Liu og to andre forskere.
- Metoden kombinerer granularitet og kontekst i faktatjek.
- Den er præsenteret på arXiv under AI-kategorien.
- Formålet er at forbedre pålideligheden af AI-svar.
Du kan forvente, at AI-chatbots bliver bedre til at undgå fejl, når de svarer på dine spørgsmål, fordi værktøjer som TriQua gør det lettere at opdage og rette unøjagtigheder.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.