AI-nyhederOpenAI-modeller kan blive dummere af egne data
Ny forskning viser, at AI-modeller forringes, når de trænes på egne output. Forskerne foreslår at blande ægte data ind under træningen.
Problemets kerne
Når AI-modeller lærer fra tekst, de selv har lavet, kan de gradvist blive dårligere. Forskere kalder dette fænomen for modelfald. Det betyder, at svar kan blive mindre præcise og mere repetitive, hvis modellen ikke får friske, menneskeskabte data.
Mulige løsninger
Forskerne gennemgår forskellige metoder til at modvirke faldet. En løsning er at blande nye, ægte data ind under træningen. En anden er at genkende og filtrere dårlige AI-genererede svar fra, så modellen ikke lærer af fejl. Ingen enkelt løsning er perfekt, men kombinationer kan hjælpe.
Hvad nu?
For almindelige brugere betyder det, at AI-chatbots kan blive mindre pålidelige over tid, hvis ikke firmaerne handler. Det er vigtigt, at udviklere løbende opdaterer med menneskelig feedback, så kvaliteten forbliver høj.
- Modelfald sker, når AI trænes på egne output.
- Forskere foreslår at bruge friske, menneskeskabte data.
- Filtering af dårlige svar kan mindske problemet.
- Kombinationer af metoder er mest effektive.
- Risikoen er, at AI-svar bliver upålidelige.
Du kan opleve, at AI-chatbots svarer dårligere over tid, hvis ikke firmaerne sørger for nye data. Vær opmærksom på, at svarene kan blive mindre præcise.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.