AI-nyhederJustin Bronder afslører AI's farlige gæt
Ny forskning viser, at AI'er ofte gætter, når de svarer, uden at tjekke fakta. Justin Bronder har fundet en løsning.
Det er sket
Forsker Justin Bronder har undersøgt, hvordan AI-modeller med adgang til værktøjer som internet og regnemaskiner alligevel giver svar uden at tjekke dem. I stedet for at bruge værktøjerne gætter AI'en bare. Det kalder han 'usupported final claims' - altså påstande uden bevis.
Løsningen
Bronder har testet to AI'er med værktøjer og fundet, at de ofte springer kontrol over. Men han viser også, at man kan lære dem at tjekke sig selv, inden de svarer. Det giver mere pålidelige svar i hverdagen, fx når du spørger om vejr, priser eller fakta.
Virkeligheden
For dig betyder det, at AI-svar ikke altid er sande, selvom AI'en har værktøjer. Bronders opdagelse kan gøre fremtidens AI bedre til at sige 'ved jeg ikke' i stedet for at finde på noget. Det er vigtigt, når AI bruges til rådgivning eller beslutninger.
- Bronder er forsker bag undersøgelsen af AI-modeller med værktøjer.
- AI'erne springer ofte kontrol over og svarer med gæt.
- Studiet viser, at fejl kan rettes ved at træne AI i at tjekke.
- Undersøgelsen handler om to specifikke AI-modeller med værktøj.
- Målet er at gøre AI-svar mere troværdige i praksis.
Når du bruger AI til info, kan du ikke altid stole på svaret. Bronders forskning baner vejen for AI, der tjekker fakta og siger sandheden.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.