OpenAI vandmærker ChatGPT-tekst i EU
Teksten markeres usynligt i ordene, så detektorer kan genkende den, og udviklere overalt kan slå ordningen til.
Vandmærke ruller ud i EU de kommende uger
OpenAI begynder at tilføje et usynligt vandmærke til tekst genereret af ChatGPT og Codex i EU.
Vandmærket ruller ud over de kommende uger til brugere på alle planer, men udelukkende i EU. EU's AI-lovgivning kræver, at AI-genereret indhold mærkes, så andre systemer kan identificere det. Gennemsigtighedsreglerne trådte i kraft 2. august.
Udviklere, der bruger OpenAI's API verden over, kan aktivere vandmærket for udvalgte modeller fra i dag, men ordningen er slået fra som standard. OpenAI gør det ikke til globalt standardvalg ved lanceringen.
- Genkendelsesrate før og efter 10 pct. synonymerstatning i OpenAI's test
- 92 → 66 pct.
Mønster skjult i ordvalget, ikke i et symbol
Vandmærket er ikke et synligt mærke. Det virker ved at skubbe let til modellens valg af ord, så der opstår et mønster, læseren ikke kan se, men en detektor kan genkende.
Fordi mønsteret ligger i ordene selv, følger det med, når teksten kopieres og indsættes et nyt sted.
OpenAI kalder metoden textGrain og har offentliggjort en teknisk rapport skrevet sammen med forskere fra University of Pennsylvania og Yale. En hemmelig nøgle sorterer modellens ordforudsigelser i en sætning. Hundredvis af små forskydninger tilsammen gør, at detektoren kan genkende AI-tekst ud fra teksten og nøglen alene.
Redigering sænker genkendelsen fra 92 til 66 procent
Vandmærket kan fjernes ved redigering. I OpenAI's test faldt genkendelsesraten fra cirka 92 pct. til 66 pct., da 10 pct. af ordene blev erstattet med synonymer. Korte passager, matematiske svar og oversat tekst er sværere at opdage.
OpenAI advarer om, at et manglende vandmærke ikke beviser menneskelig forfatterskab. Teksten kan være for kort, kraftigt redigeret eller stamme fra et andet selskabs AI.
Derfor giver OpenAI kun adgang til detektoren til godkendte forskere og ekspertorganisationer, der kan vurdere pålideligheden.
OpenAI holdt tilbage af frygt for konkurrenter
Beslutningen kommer to måneder efter, at Anthropic annoncerede vandmærkning af tekst fra Claude over hele verden. Ordningen vakte modstand fra nogle Claude-brugere, der argumenterede for, at de selv havde leveret instruktioner, kontekst og beslutninger, mens Claude kun var et værktøj.
OpenAI havde allerede bygget et tekstvandmærke, men undlod at udgive det. Ifølge The Wall Street Journal fra 2024 var en begrundelse bekymring for, at brugere ville skifte til konkurrenter uden vandmærkning.
Anthropic, Google, Meta, Microsoft og OpenAI har forpligtet sig til EU's adfærdskodeks for AI-genereret indhold.
Flere detaljer
- OpenAI rapporterer ingen væsentlig ændring i modellernes præstation med vandmærket aktiveret
- Vandmærket identificerer ikke den enkelte bruger, oplyser OpenAI
Kilder:
TechCrunch AI → The Verge AI → Ars Technica AI →
Genfortalt i egne ord af AI-nyheder.com · AI-genereret illustration · Tjek altid originalkilden, før du handler på vigtige oplysninger.