Googles Nano Banana 2 kan skabe vildledende billeder

Googles nye AI-billedgenerator i Google Earth gør det nemt at skabe realistiske, men falske flyvebilleder – eksperter advarer mod misbrug.

Nyt værktøj

Google Earth har fået en AI-funktion kaldet Nano Banana 2, der kan skabe billeder ud fra tekstbeskeder. Den bruger satellit- og 3D-data til at lave troværdige flyveperspektiver. Funktionen blev lanceret globalt på webversionen tidligere på ugen, og Google kalder den et redskab til at visualisere historiske steder og byggeprojekter.

Faktiske eksempler

Forsker Henk van Ess har lavet billeder, der viser flygtninge ved den mexicanske grænse og et bombekrater ved et hospital i Gaza. Selvom nogle billeder er nemme at gennemskue – som Sfinksen kombineret med Frihedsgudinden – kan andre være så realistiske, at de spreder misinformation. Van Ess' AI-video fra Google Earth kunne endda narre Hives AI-detektor.

Googles forsvar

Google siger, at de tager misinformation alvorligt. Hvert billede med Nano Banana 2 får et digitalt vandmærke kaldet SynthID. Man kan bruge Gemini-appen eller Google Lens til at tjekke, om et billede er AI-genereret. Men vandmærket kan være svært at fjerne, og det er ikke umuligt at overse eller omgå.

Ekspertens råd

Van Ess anbefaler at bruge Googles '@verifyai'-tag i Gemini for at tjekke mistænkelige billeder. Han foreslår også at sammenligne billeder med andre satellitplatforme som Sentinel-2 eller Landsat. Man bør desuden verificere orbitaldata, for eksempel hvornår og med hvilken satellit et billede skulle være taget.

Kilder:
The Verge AI →

Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.