Googles SynthID-vandmærke holder, men løser ikke problemet
Googles SynthID overlever 300 komprimerings-runder, men eksperter advarer om, at vandmærker alene ikke stopper misinformation.
Vandmærket holder
Ars Technica testede Googles SynthID ved at sende AI-billeder gennem 300 komprimerings-runder. Selv efter voldsom sløring og beskæring op til 20 procent kunne vandmærket stadig spores – først ved større beskæring forsvandt det.
Hvorfor det halter
SynthID er ikke uovervindeligt. Det originale papir bag teknologien siger direkte, at det ikke er designet til at modstå angreb. Allerede har nogle hackere hævdet at bryde det, og Metas lignende vandmærke knækkede ved en simpel beskæring.
Mængden af AI-indhold eksploderer
Mens kameraet brugte 149 år på at skabe 1,5 milliarder billeder, klarede AI samme mængde på 18 måneder. Google alene har via sine værktøjer produceret over 100 milliarder AI-billeder og -videoer på få år – et tal, der kun vokser.
- SynthID overlevede 300 komprimerings-runder i testen.
- Vandmærket forsvandt først ved en beskæring på 20 procent efter 300 runder.
- C2PA metadata kan nemt fjernes ved at tage et screenshot.
- Metas tilsvarende vandmærke knækkede ved simpel beskæring.
- Google siger selv, at SynthID ikke er designet til at modstå angreb.
- Hackere har allerede hævdet at bryde SynthID.
- AI skabte 1,5 milliarder billeder på 18 måneder – kameraet brugte 149 år.
Du kan stadig blive snydt af AI-billeder, fordi vandmærker let kan fjernes eller omgås – selvom teknologien bliver bedre.
Kilder:
Ars Technica AI →
Genfortalt i egne ord af AI-nyheder.com · AI-genereret illustration · Tjek altid originalkilden, før du handler på vigtige oplysninger.