Google lancerer global SynthID-detektor til alle

01Ét website tjekker flere AI-firmers vandmærker

Google har gjort sin SynthID-detektor tilgængelig for alle på det nye website SynthID.com. SynthID er et usynligt signal, der er indkodet i pixels fra AI-genererede billeder og videoer, og i bølgeformen fra AI-lyd. Mediet kontrolleres derefter for signalet.

Tidligere kontrollerede Googles detektor kun Googles egen version af SynthID. Et ChatGPT-billede med SynthID blev altså ikke fanget, selv om teknologien var brugt. Ifølge Google understøtter den udvidede detektor nu de distinkte vandmærker fra alle SynthID-partnere: OpenAI, Nvidia, Kakao og snart Apple. På den måde kan man kontrollere en fil for involvering fra alle disse systemer ét sted i stedet for at bruge deres detektorer hver for sig.

02Førhen krævede tjek testprogram eller Gemini

Førhen krævede et tjek enten adgang til Googles betroede testprogram eller et svar fra Gemini, hvor man spurgte modellen om mediet var AI-genereret. Det var besværligt, og modellens svar kunne være forvirrende, når man bare ville have et klart ja eller nej.

Nu kan man springe Gemini over og gå direkte til website. Der kræves dog login, og detektoreren understøtter Google-, OpenAI- og Apple-konti.

03Ca. 10 tjek om dagen pr. bruger

Hver bruger får, ifølge Google, "et dagligt brugskvotum på cirka 10 tjek af billeder, videoer og lyd". Tidligere detektionsværktøjer havde en tilsvarende grænse. Nøglen ordet "cirka" kan skyldes, at systemet låser brugeren ude tidligere, hvis man tjekker flere meget ens billeder — et tegn på, at nogen måske forsøger at finpudse en omgåelsesmetode.

Google-ingeniører har fortalt Ars, at adgangsbegrænsningen er nødvendig for at forhindre folk i at bruge tjekkene til at udvikle værktøjer, der fjerner SynthID.

Den nye website giver mindre information end det interne værktøj, der kunne fremhæve de billedområder, hvor SynthID-pixels lå. Her får man i stedet en besked om, hvorvidt SynthID er brugt til at producere eller redigere mediet.

04Mange AI-billeder vil slet ikke blive fanget

SynthID-dækningen har en klar grænse: Google's partnere er langt fra den eneste kilde til AI-indhold. Nogle modeludbydere bruger anden vandmærkningsteknologi, som Meta, og andre bruger slet ingen vandmærker.

Open-vægt-modeller, som folk kan køre på deres egen hardware, producerer AI-indhold uden metadata-mærkning overhovedet. En del AI-indhold vil altså aldrig blive identificeret som AI i SynthID-værktøjet — og det vil en disclaimer på sitet oplyse. Der er desuden mulighed for, at nogen finder en måde at fjerne SynthID på, så eksisterende AI-indhold fremstår mere autentisk.

05C2PA kan mærke ægte billeder i stedet

Den omvendte tilgang kan være at bruge kryptografiske teknologier som C2PA til at mærke ægte billeder, video og lyd, når de skabes. Googles Pixel-telefoner er blandt de få enheder, der allerede gør det. Indtil da er SynthID det bedste bud på at identificere AI-fakes.