AI-nyhederMetas annoncer afklædte billeder af rigtige piger
Meta fjernede ikke annoncer med AI-genereret seksuelt misbrug af børn i tide. Annoncerne viste rigtige piger, bl.a. fra Instagram.
Det er sket
Undersøgelser fra Tech Transparency Project (TTP) og Wired viser, at Meta i år overså 332 annoncer med seksuelt misbrug af børn på Facebook og Instagram. Flere annoncer brugte AI til at forvandle ægte billeder af piger - blandt andet et pressefoto af et ungt medlem af en kongelig familie - til videoklip med grove seksuelle handlinger.
AI-værktøjerne
De fleste annoncer solgte 'nudify'-apps udviklet i Kina. Apps'ene gør det nemt for folk at klippe tøjet af billeder af børn. Nogle tekster lokkede med *'der er ingen begrænsninger'* og kaldte det *'den AI, mænd faktisk bruger'*. Annoncerne nåede ifølge TTP ud til over 29.000 personer i EU og 6.800 i Storbritannien.
Kritikken
TTP mener, det er et tegn på, at hele Metas system for godkendelse af annoncer er utilstrækkeligt. Meta fjernede ellers annoncerne, da de blev påpeget, men sommetider tog det flere dage - og i nogle tilfælde afviste Meta at slette identiske annoncer. Det skete efter, at Meta tidligere havde påstået, at nye systemer opdagede overgreb bedre.
Penge og mænd bag
Ifølge en rapport fra Reuters kan Metas langsommelighed hænge sammen med, at platformen er afhængig af kinesiske annoncesælgere, som står for milliarder i profit. Tre af disse sælgere viste angiveligt de ulovlige annoncer uden at blive opdaget. En falsk Facebook-side udgav sig endda for at være en kirke - den kørte også ulovligt indhold.
- AI-annoncer brugte billeder af rigtige piger, herunder et medlem af en kongelig familie.
- Videoer viste grafiske seksuelle overgreb på piger helt ned til cirka 14 år.
- Metas system fjernede hurtigt halvdelen af de 300+ annoncer, men missede resten i flere dage.
- Op mod 80 procent af annoncerne viste piger i teenagealderen, viser rapporten.
- Meta fjernede en annonce, men lod en identisk annonce med samme billede og tekst køre.
- Kinesiske annoncesælgere som GIMC og BlueFocus kørte ifølge TTP de ulovlige annoncer.
- En annonce med et lagerfoto af en 'preteen'-pige blev set 330 gange undervejs.
Når du scroller på Instagram eller Facebook, kan du risikere at møde annoncer, der misbruger rigtige børns billeder med AI - og du skal stole på, at Meta fjerner dem hurtigt.
Kilder:
Ars Technica AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.