AI-nyhederMeta kørte reklamer for AI-porno-appen Kromix
Meta har vist reklamer for en app, der laver deepfake-porno med kvindelige politikere, først efter pres blev de fjernet.
Det er sket
Meta har kørt reklamer for appen Kromix, der lover at omdanne billeder af kvindelige politikere til pornografiske videoer. En annonce viste en kvinde, der lignede en kendt amerikansk politiker, for derefter at skifte til en pornografisk scene med samme ansigt. Annoncerne var kun målrettet mænd og blev først fjernet, efter WIRED spurgte ind til dem.
Appen og Apple
Kromix præsenterede sig som en AI-billedstyler og var tilgængelig i Apples App Store. Appen opfordrede brugere til at uploade billeder til scenarier som 'voldtægt i soveværelset' og 'Disney-kærlighed'. Efter henvendelse fra WIRED fjernede Apple appen med henvisning til, at den indeholdt forbudt indhold og funktioner, som ikke var der ved første gennemgang.
Metas regler
Meta har klare regler mod seksuelt indhold og reklamer for 'nudify'-apps, men alligevel er sådanne annoncer dukket op igen og igen. Ifølge Tech Transparency Project har forskere fundet over 50 reklamer med AI-børneporno på Metas platforme. Meta selv oplyser, at de har fjernet 344.000 annoncer for nudify-apps på Facebook og Instagram mellem november og januar.
Kritikken
Katie Paul fra Tech Transparency Project siger, at reklamerne rejser spørgsmål om, hvordan Meta håndterer AI-porno med kvindelige politikere. Politikere, især kvinder, har i årevis været mål for deepfake-billeder. I januar brugte folk Grok til at lave omkring 3 millioner seksualiserede billeder af kvinder og piger, og svenske, engelske og nordirske politikere blev ramt af lignende angreb.
Forsvaret
Meta forsvarer sig med, at de aktivt bekæmper seksuel udnyttelse. Cindy Southworth, Metas chef for kvindesikkerhed, siger, at de fjerner mange annoncer på trods af, at kriminelle forsøger at skjule indholdet bag et neutralt coverbillede. Hun erkender dog, at intet system er perfekt, og at de undersøger, hvordan annoncerne slap igennem.
Hvad nu?
Meta siger, at de vil styrke deres forsvar med ny AI-teknologi og retslige skridt mod udviklere af nudify-apps. De deler også oplysninger om fjernede apps med andre tech-virksomheder. Spørgsmålet er, om det er nok, når reklamerne alligevel bliver ved med at dukke op, og når politikerne bliver mere og mere udsatte.
- Reklamerne viste en kvinde, der lignede en prominent amerikansk politiker, i en pornografisk video.
- Kromix-appen inviterede brugere til at uploade billeder til scener som 'voldtægt i soveværelset'.
- Apple fjernede Kromix efter henvendelse fra WIRED og sagde, at appen havde tilføjet forbudt indhold.
- Meta's reklamebibliotek viser, at annoncerne kun var målrettet mænd.
- San Francisco's byadvokat sendte et påbud til Apple om at fjerne 13 specifikke apps tidligere i sommer.
- Forskere fandt over 50 reklamer med AI-børneporno på Metas platforme.
- Meta har sagsøgt mindst én virksomhed, der promoverede nudify-tjenester.
Du kan risikere at se reklamer for apps, der laver pornografiske videoer af politikere og andre, uden at Meta opdager det i tide.
Kilder:
Ars Technica AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.