Google AI viser kendte forskeres artikler fejlagtigt

Ny test viser, at AI-chatbots som Google anbefaler artikler fra berømte forskere, selv når indholdet er svagere. Bias kan påvirke søgninger og anbefalinger.

Undersøgelsen

Forskere har testet, hvordan AI-søgemaskiner anbefaler videnskabelige artikler. De spurgte chatbots om emner og sammenlignede svar med objektive rankings. Resultatet: AI’er vælger ofte artikler af kendte forfattere, selv når andre artikler er mere relevante og citerede. Det kaldes autoritetsbias.

Eksperimentet

Holdet bag undersøgelsen stillede hundredvis af spørgsmål til forskellige AI-systemer, herunder ChatGPT og Google AI. De opdagede, at svar ofte inkluderede artikler fra professorer på topuniversiteter, mens kvalitetsarbejde fra mindre kendte forskere blev overset. Biasen var stærkest, når spørgsmålene var vage.

Konsekvenser

For almindelige brugere betyder det, at AI-søgninger kan give skævvridne resultater. Studerende og forskere risikerer at gå glip af vigtige opdagelser, fordi algoritmen favoriserer berømmelse over substans. Forskerne bag undersøgelsen opfordrer til, at AI-udviklere aktivt modvirker bias.

Hvad nu?

Undersøgelsen er lagt på arXiv og afventer fagfællebedømmelse. Forskerne håber, at resultaterne får AI-firmaer til at justere deres anbefalingssystemer. Indtil da bør du være kritisk over for AI-genererede kildelister og selv tjekke, om de mest citerede artikler er med.

Kilder:
arXiv cs.AI →

Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.