Research Gold lover ægte forskning – men er selv AI

Research Gold reklamerer med menneskeskrevne lægevidenskabelige artikler, men hele virksomheden – inklusive de falske PhD-forskere – er genereret af AI. Rigtige forskere fik stjålet navn og billede.

Det falske hold

Research Gold markedsfører sig som et hold af PhD-metodologer, der laver systematiske reviews og meta-analyser til læger og forskere. Men alle otte profiler med billeder og CV er opdigtet. Firmaet har også stjålet navne og billeder fra rigtige forskere uden at spørge om lov. Den ene, Jenny Berrio, var helt uvidende, indtil journalisten kontaktede hende.

AI i telefonen

Da journalisten ringede til firmaet, svarede en AI-assistent ved navn Sarah. Hun nægtede at være AI, påstod at være et rigtigt menneske og forsøgte gentagne gange at sælge ydelser. Også chat og e-mail var skrevet af AI, og et tilbud på et forskningsprojekt om børn og blogs lød helt overbevisende – men kom altså fra en maskine.

Prisen på et review

Et komplet systematisk review med alt fra søgning til færdigt manuskript blev prissat til 1.900 dollar af AI-assistenten. Det er samme pris, som et ægte menneskeligt hold ville tage, men uden garantien for, at der er nogen rigtige forskere bag. Firmaet fjernede hurtigt profilerne på de rigtige personer, efter at sagen blev afsløret.

Hvad betyder det?

Sagen er et skræmmende eksempel på, hvordan AI kan bruges til at snyde i forskningsverdenen. Sebastian Rowan, en ph.d.-studerende der opdagede firmaet, advarer mod AI's tendens til at 'hallucinere' – altså finde på fakta. Hvis forskningsresultater bygger på opdigtet litteratur, kan det få alvorlige konsekvenser for medicin og behandling.

Kilder:
Hacker News: AI →

Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.