Google fjerner AI-værktøj efter misbrug af satellitbilleder
Google lod kortvarigt brugere ændre satellitbilleder med AI, men trak funktionen tilbage efter kritik af misinformation.
Hvad skete der?
Google lavede et AI-værktøj, der gjorde det muligt at ændre Google Earths satellitbilleder og skabe falske scener. Funktionen blev lanceret i slutningen af juli, men efter kun få dage trak Google den tilbage. Folk havde blandt andet lavet et billede af en stor Donald Trump-statue ved Det Hvide Hus.
Kritikken haglede ned
Forskere og efterforskere var stærkt utilfredse. Efterforskeren Henk van Ess viste på en blog, hvordan han kunne placere flygtninge ved den mexicanske grænse og et atomkraftværk i Iran på få sekunder. Han kaldte det for "hvad laver Google egentlig?" og påpegede, at værktøjet tidligere krævede seks trin, men nu tog få sekunder.
Googles forsvar
Google forsvarede funktionen med et digitalt vandmærke kaldet SynthID, som skal gøre det muligt at se, om billeder er AI-genererede. Men test viste, at vandmærket ikke altid virker - for eksempel hvis man tager et foto af skærmen med en telefon. Google begrænsede også antallet af tjek til cirka 10 om dagen, og vandmærket kunne fjernes ved redigering.
Hvad betyder det nu?
Eksperter frygter, at værktøjet kunne have undermineret tilliden til Google Earth som pålidelig kilde til ægte billeder. Det kunne også have gjort det sværere for journalister at verificere nyheder. Google siger nu, at de tager misinformation alvorligt, men udelukker ikke, at funktionen vender tilbage i en anden form senere.
- Google fjernede AI-funktionen efter mindre end et døgns kritik.
- Efterforskeren Eliot Higgins lavede et AI-billede af Trump-statue ved Det Hvide Hus.
- Henk van Ess skabte falske scenarier som flygtninge og atomkraftværk på få sekunder.
- Google brugte SynthID-vandmærker til at markere AI-genererede billeder.
- SynthID virkede ikke på billeder taget direkte af skærmen.
- Tidligere krævede det seks trin at lave misinformation med Google Earth, nu tog det kun sekunder.
Du bør være ekstra kritisk, når du ser satellitbilleder på nettet - nu er det nemt at forfalske dem, selvom Google hurtigt fjernede værktøjet. Check altid kilden, før du deler billeder.
Kilder:
Ars Technica AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.