Google trækker AI-værktøj tilbage efter én dag
Google Earths nye AI-funktion, der lod brugere ændre satellitbilleder med tekst, blev lukket efter kun et døgn på grund af misbrug.
Det er sket
Torsdag lancerede Google en funktion i Google Earth, hvor man med tekstprompter kunne ændre satellitbilleder ved hjælp af AI. Værktøjet gjorde det muligt at skabe falske billeder af virkelige steder. Allerede fredag blev funktionen fjernet igen, efter flere begyndte at dele manipulerede billeder, der så ægte ud.
Misbruget
Forskeren Henk van Ess brugte værktøjet til at generere billeder af eksempelvis flygtninge ved den mexicanske grænse og en bombekrater ved et hospital i Gaza. Han fortæller, at intet blev nægtet, og at han kunne snyde et AI-detektionsværktøj fra Hive med en video lavet i Google Earth – på trods af vandmærker.
Googles svar
Google indrømmer, at folk stoler på Google Earth for et pålideligt billede af verden, og at man nu ruller funktionen tilbage. Firmaet arbejder på stærkere beskyttelse. De understreger, at de genererede billeder ikke blev vist i hovedoplevelsen, og at de var vandmærket som AI-genererede.
Hvad nu?
Funktionen, der brugte AI-modellen Nano Banana 2, kommer ikke tilbage, før Google har fået styr på reglerne. Eksperter frygter, at lignende værktøjer kan sprede misinformation, hvis ikke der er bedre kontrol med, hvad brugerne kan lave.
- Funktionen blev lanceret torsdag og lukket fredag – efter kun ét døgn.
- Den lod brugere ændre satellitbilleder med tekstprompter via AI.
- Henk van Ess genererede blandt andet billeder af flygtninge og en bombekrater.
- Hive’s AI-detektionsværktøj kunne ikke opdage en video lavet i Google Earth.
- Google siger, at billeder var vandmærket og ikke vist i hovedoplevelsen.
- Nano Banana 2 er navnet på AI-modellen bag funktionen.
Du kan ikke længere selv ændre satellitbilleder i Google Earth med tekst – men vær opmærksom på, at lignende værktøjer kan bruges til at skabe vildledende billeder, som er svære at gennemskue.
Kilder:
The Verge AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.