AI-nyhederQing Zhang: Vis AI-sporet tydeligt i billeder
Forskere med blandt andre Qing Zhang foreslår at vise AI-brug som en synlig mærkat i selve billedet. Det giver seerne større tillid.
Problemet med dagens mærkning
Når billeder i dag mærkes med 'Lavet med AI' eller gemmer oplysningen i usynlige metadata, ved seerne ikke, hvor meget af billedet der faktisk er AI-genereret. Det skaber mistillid og en 'gennemsigtigheds-straf', hvor selv ægte billeder bliver mødt med skepsis. Forskerne bag studiet mener, at den nuværende tilgang er utilstrækkelig – enten siger den for lidt eller for meget.
En ny idé: Vis tydeligt
Studiet introducerer begrebet 'visualiseret proveniens-densitet' – en visuel mærkat på selve billedet, der viser, hvor stor en del af indholdet der er AI-skabt. I stedet for at skjule informationen i det små skal seerne med ét blik kunne se, præcis hvor meget AI der er i billedet. Det minder om en ingrediensliste, man kan se uden at skulle lede efter den.
Tilliden følger med
Ved at gøre AI-andelen til en tydelig del af billedet – eksempelvis med et mærke eller et overlay – viste undersøgelsen, at seerne fik mere tillid til det, de så. Når man føler, at man får hele historien, bliver man mindre mistænksom. Det kan være et vigtigt skridt i en tid, hvor deepfakes og manipulerede billeder er blevet en del af hverdagen på nettet.
- Studiet foreslår en ny metode kaldet 'proveniens-densitet' til at vise AI-indhold i billeder.
- Nuværende mærkater som 'Made with AI' er for upræcise ifølge forskerne.
- Usynlige metadata hjælper ikke seerne i praksis, viser forskningen.
- En tydelig visuel markering kan mindske mistillid til både AI-generede og ægte billeder.
- Metoden er designet til at gøre AI-spor nemme at se for alle brugere.
- Forskerne bag studiet er Qing Zhang og kolleger fra arXiv.
Du kan fremover se direkte på et billede, hvor meget AI der er i det – det kan give dig større tillid til det, du deler og læser.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.