San Francisco kræver nudify-apps fjernet
Byens anklager mener Apple og Google har tjent millioner på apps, der let laver deepfake-nøgenbilleder.
Det handler om
San Franciscos anklager David Chiu har sendt krav til Apple og Google om at fjerne 13 såkaldte nudify-apps. Værktøjerne bruger AI til at klæde folk af på billeder eller sætte deres ansigt på pornografisk materiale – ofte uden offerets viden.
Pengene bag
Chius kontor vurderer, at Apple og Google hver har tjent millioner af dollars i gebyrer på apps, der bryder loven mod deepfake-porno. En enkelt app havde over en million downloads og reklamerede åbent med at kunne seksualisere billeder.
Hvad svarer tech-giganterne?
Google har suspenderet de fem nævnte apps og blokerer søgeord som 'nudify'. Apple har fjernet tre og truer fire andre med udelukkelse, medmindre de retter ind. Begge siger, de aktivt bekæmper skadeligt indhold.
Det større billede
Problemet er større end de 13 apps: Forskere fandt, at 70 % af 155 testede ansigtsbytte-apps kunne misbruges til at lave nøgenbilleder. Samtidig er AI-chatten Grok blevet sagsøgt for at generere børneporno, hvilket sætter ekstra pres på app-butikkerne.
- Chiu sendte krav til Apple om 8 apps og til Google om 5 apps.
- AI-værktøjerne kan klæde folk af, ændre ansigtstræk og bytte ansigter.
- Ofrene er oftest kvinder og børn, og mange har haft selvmordstanker.
- Apple har fjernet tre apps og truer fire andre med at blive smidt ud.
- Google har suspenderet de fem apps og blokeret søgninger efter 'nudify'.
- Forskere testede 155 face-swap-apps, og 70 procent kunne lave nøgenbilleder.
- AI-chatten Grok er også i søgelyset efter at have genereret børneporno.
Du risikerer, at billeder af dig eller dine nærmeste bliver manipuleret uden samtykke – og tech-giganterne har indtil nu tjent på det.
Kilder:
Ars Technica AI →
Genfortalt i egne ord af AI-nyheder.com · AI-genereret illustration · Tjek altid originalkilden, før du handler på vigtige oplysninger.