AI-nyhederTzu-Ling Lin fanger AI-fantasi i forskningsanmeldelser
Forskere bag HalluPeer afslører, hvordan AI finder på ting i videnskabelige anmeldelser. Det skal gøre forskning mere pålidelig.
Det er sket
Forskeren Tzu-Ling Lin og kolleger har bygget et nyt værktøj kaldet HalluPeer, der opdager, når AI finder på ting i videnskabelige anmeldelser. Tidligere har det været svært at spotte, men nu har de lavet en slags tjekliste, der gør det nemmere at fange urene data.
Hvorfor det nytter
Når forskere bruger AI til at skrive anmeldelser af andres arbejde, kan der snige sig fejl ind - for eksempel henvisninger til artikler, der slet ikke findes. HalluPeer kan lære forskere at stole mere på de digitale hjælpere og mindre på deres egne øjne, når de læser resultaterne.
Hvad nu?
Værktøjet er stadig nyt, men det kan blive et fast redskab for videnskabelige tidsskrifter, der vil sikre kvalitet. Det kan også hjælpe almindelige mennesker, der læser forskning og gerne vil vide, om de kan tro på det, de ser.
- HalluPeer er en ny metode til at opdage hallucinationer i AI-skrevne anmeldelser.
- Forskerne bag hedder Tzu-Ling Lin og kolleger fra flere institutioner.
- Værktøjet bruger en taksonomi til systematisk at finde fejl.
- Artiklen er lagt på arXiv og har gennemgået peer review-processer.
- Formålet er at øge troværdigheden i videnskabelig kommunikation.
Du kan fremover få nemmere ved at gennemskue, hvornår en AI-skabt forskningsanmeldelse er upålidelig - så du ikke bygger dine beslutninger på noget, der er opfundet.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.