AI læser ikke – den gætter hvad der står
Når AI kigger på et billede af en tekst, opfinder den ofte bare noget. Forskere har målt præcis, hvor slemt det er.
Opdagelsen
Forskere testede en række AI-modeller og opdagede, at de sjældent gengiver teksten ordret. I stedet 'omskriver' de den – altså gætter de indholdet ud fra konteksten. Det kan være smart, men også farligt, hvis præcision er vigtig.
Hvorfor er det et problem?
Forestil dig, at din læge bruger AI til at læse et røntgen-svar, eller at en advokat får AI til at læse en kontrakt. Hvis modellen gætter forkert, får du et ukorrekt svar. Forskernes pointe: AI'en er god til at virke overbevisende, men ikke til at være præcis.
Hvem står bag?
En gruppe forskere har udgivet undersøgelsen på arXiv. De testede flere af de nyeste AI-modeller og dokumenterede systematisk, hvor ofte modellerne afviger fra kildeteksten. Det er en advarsel til alle, der bruger AI til at læse dokumenter.
- Forskerne fandt, at AI-modeller ofte 'omskriver' tekst i stedet for at læse den.
- Problemet opstår især ved tekster i billeder som skærme og skilte.
- AI'er er gode til at gætte meningen, men dårlige til ordret gengivelse.
- Det kan give fejl i sundhed, jura og andre præcisionsområder.
- Undersøgelsen testede flere forskellige vision-language-modeller.
Du kan ikke stole blindt på AI, når den læser tekst i billeder – den finder ofte på noget andet end det, der rent faktisk står.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.