AI-nyhederChatGPT opfinder scener i din livshistorie
Forskere har bedt ChatGPT skrive selvbiografier for rigtige mennesker og sammenlignet med dokumenterne. Resultatet: AI'en opfinder scener, der aldrig er sket.
Det er opdaget
Forskere har bedt AI’er som ChatGPT om at skrive selvbiografier for rigtige mennesker – og sammenlignet med de faktiske dokumenter fra deres liv. Resultatet: AI’en opfinder scener, der aldrig er sket, og som ikke kan findes i den dokumenterede fortid. Det kalder forskerne for konfabulation.
Hvorfor det rammer
Når AI skriver om dit liv, lyder det overbevisende – men det er ikke til at vide, hvad der er sandt. Det kan få betydning for alt fra digitale mindesider til erindringsbøger. Forskeren bag studiet peger på, at risikoen er størst, når AI får frie rammer til at fylde huller ud.
Hvad det betyder
Det er nemt at tro, at AI hjælper med at bevare minder, men studiet viser, at teknologien i stedet kan skabe falske versioner af din historie. Det understreger behovet for kontrol af AI-genereret indhold om dig selv. Forskningen er et første skridt mod at forstå omfanget.
- AI finder på scener, der ikke er i de dokumenterede livshistorier.
- Undersøgelsen sammenligner AI-selvbiografier med faktiske dokumenter.
- Fænomenet kaldes konfabulation – AI opfinder uden at vide det.
- Forskeren bag studiet er Heather Renze.
- Studiet er udgivet på arXiv og baseret på tekstgenererende AI.
- Risikoen er størst, når AI selv udfylder hullerne i historien.
Hvis du bruger AI til at skrive dine minder eller din historie, skal du vide, at dele kan være opfundne – tjek derfor altid indholdet.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.