AI-nyhederYifeng Luo kortlægger AI-fake videoer
Forskeren Yifeng Luo kortlægger, hvordan AI-genererede videoer spreder falske nyheder og foreslår nye måder at afsløre dem på.
Ny trussel
Tidligere var fake news-videoer ofte billigt klippede klip – såkaldte 'cheap fakes'. Nu kan AI skabe helt nye, realistiske videoer fra bunden, kaldet 'pure synthesis'. Forskerne bag studiet, med hovedforfatter Yifeng Luo, siger, at det gør det langt sværere for almindelige brugere at gennemskue, hvad der er ægte.
Hvad de fandt
Holdet har undersøgt, hvordan AI-videoer kan bruges til at sprede misinformation – for eksempel ved at vise begivenheder, der aldrig er sket. De peger på, at de vigtigste risici ikke kun er tekniske, men også sociale, fordi folk har svært ved at forholde sig kritisk til videoer, der ser ægte ud.
Løsninger
Forskerne foreslår en kombination af værktøjer: automatiske detektorer, der skal finde tegn på AI-generering, og bedre digital mærkning af videoer. Men de understreger, at teknologi alene ikke er nok – medier og platforme skal også tage ansvar for at stoppe spredningen.
- Forskere skelner mellem 'cheap fakes' (klippede videoer) og 'pure synthesis' (helt AI-genererede).
- Yifeng Luo er hovedforfatter på studiet, der er publiceret på arXiv.
- AI-genererede videoer kan vise begivenheder, der aldrig har fundet sted.
- Forskerne foreslår automatiske detektorer til at finde AI-videoer.
- De anbefaler også digitale vandmærker og mærkningsordninger.
- Studiet understreger, at platforme og medier skal hjælpe med at bremse spredningen.
- Forskerne ser et stigende problem i takt med, at AI-videoer bliver mere realistiske.
Du kan snart møde videoer, der ser helt ægte ud, men som er rene AI-fabrikationer – så hold øje med, hvad du deler, og stol ikke blindt på alt, du ser.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.