Anthropic vil mærke al Claude-tekst med vandmærke

Anthropic planlægger usynlige vandmærker i al tekst og billeder fra Claude for at leve op til EU's nye AI-regler.

Det er sket

Anthropic har lovet at indbygge maskinlæsbare vandmærker i alt indhold fra deres Claude-modeller. Ændringen er usynlig for øjet, men gør det muligt at se, om en tekst eller et billede er skabt af AI. Det sker for at overholde EU's AI-lov, der trådte i kraft den 2. august.

Sådan virker det

Tekster får et usynligt vandmærke, der følger med, selv når du kopierer og klistrer dem ind andre steder. Billeder forsynes med C2PA-standard, samme metode som Adobe og Google bruger. Vandmærkerne kan modstå let redigering, men hvor meget, vides endnu ikke.

Hvornår kommer det

Det sker ikke med det samme. Nye Claude-modeller, der udgives efter 2. august, får automatisk mærkning fra dag ét. For eksisterende modeller er arbejdet stadig i gang. Vandmærkerne kommer i alle produkter som Claude Platform, Claude Code og Claude Cowork.

Udfordringerne

C2PA-data er kendt for at kunne fjernes let, nogle gange ved et uheld, når billeder uploades til online platforme. Anthropic erkender selv, at systemet ikke er fejlfrit. Indhold uden synlige mærker kan stadig være AI-genereret, og det er uklart, hvor robust tekstvandmærket er.

Bredere billede

Flere firmaer som OpenAI, Google og Meta har også forpligtet sig til EU's regler. Musikplatformen Suno markerer sine numre, og Substack samarbejder med Pangram for at flagge AI-indhold. Der er opstået et begreb kaldet 'Claudefishing' for at beskrive folk, der bruger AI til at svindle indhold.

Kilder:
The Verge AI → TechCrunch AI → Hacker News: AI →

Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.