Claude får usynligt vandmærke på alt indhold

Anthropic lægger usynlige vandmærker på alt, som Claude rører ved – også almindelig korrektur. Ordningen skyldes EU's AI-regler og ruller ud i hele verden.

Det er sket

Anthropic har afsløret, at Claude snart får indbygget usynlige vandmærker i alt indhold, modellen har været i kontakt med – ikke kun det, den selv har skrevet, men også ren tekstrettelse. Det sker for at overholde EU's AI Act, der kræver mærkning af AI-genereret indhold. Reglen gælder for modeller lanceret efter august, og Anthropic indfører den globalt fra dag ét.

Konsekvensen

Vandmærket virker ved at påvirke Clauses ordvalg i et mønster, som kun en særlig detektor kan se. Problemet er, at det også rammer tekster, som AI'en kun har rettet kommaer i – selvom loven ikke kræver det. Og mærket kan nemt fjernes: screenshot, klip ind i et andet AI-system eller bare brug af et redigeringsværktøj.

Kritikken

Forskere og brugere frygter, at vandmærket skaber forvirring – en lærer kan tro, at en elevs tekst er skrevet af AI, bare fordi den har været igennem en stavekontrol. Samtidig kan mærket ikke skelne mellem let redigering og fuldskreven tekst, og mangel på mærke betyder ikke, at indholdet er menneskeskabt. Det gør ordningen upålidelig.

Hvad nu?

Anthropic vil udgive et detektionsværktøj, så brugere selv kan tjekke for vandmærker, men svarer ikke på, hvornår det kommer. Det betyder, at man i mellemtiden ikke kan vide, hvor meget tekst der reelt er mærket. EU's krav om mærkning gælder kun for offentlig information, men det er nemt at forestille sig, at vandmærket bliver brugt som dom.

Kilder:
Ars Technica AI →

Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.