AI-nyhederMeta kørte annoncer med AI-genereret børnemisbrug
Forskere fandt over 50 betalte annoncer med seksuelt misbrug af børn på Metas platforme. Annoncerne blev godkendt og kørt i flere måneder.
Det er sket
Forskere fra Tech Transparency Project opdagede over 50 billed- og videoannoncer med tydeligt AI-genereret børnemisbrug. Annoncerne kørte på Facebook, Instagram, Messenger og Threads fra november til august, og nogle nåede flere tusinde konti i både USA, Storbritannien og en række europæiske lande.
Målrettet mod mænd
Flere annoncer var kun målrettet mænd og viste billeder af børn med seksuelle budskaber. En video viste et barn, der lagde læbepomade på, men når man klikkede, skiftede videoen til en seksuel handling med barnet. Forskernes direktør kalder det chokerende, at Meta ikke opdagede indholdet.
Metas svar
Meta fjernede annoncerne efter WIRED kontaktede dem og siger, at seksuel udnyttelse er forfærdeligt. De hævder, at de fleste annoncer havde minimal rækkevidde, og at mange blev fjernet, før WIRED kontaktede dem. Meta henviser også til ny AI-teknologi, der skal opdage ulovlige annoncer.
Kritikken
Forsker Katie Paul påpeger, at annoncerne ikke er brugeroprettet indhold, men godkendte og betalte reklamer. Hun stiller spørgsmålstegn ved, hvordan Meta kan sige, at de tager problemet alvorligt, når identiske annoncer, som Meta tidligere har fjernet, dukkede op igen uden at blive opdaget.
Tidligere problemer
Det er anden gang på få uger, at der findes problematiske annoncer på Metas platforme. Tidligere i juli afslørede BBC, at Instagram kørte annoncer, der solgte børnemisbrugsmateriale i Indien. Meta svarede dengang, at de har en nultolerance-politik over for børnemisbrug.
Hvad nu?
Forskerne har rapporteret fundene til NCMEC, som indsamler tip om børnemisbrug. Spørgsmålet er nu, om Metas egen kontrol fungerer, og om deres nye AI-værktøj rent faktisk kan opdage sådanne annoncer. Flere af de nyeste annoncer blev opdaget efter, at Meta blev kontaktet.
- Over 50 annoncer med AI-genereret børnemisbrug blev fundet af forskere.
- Annoncerne kørte på Facebook, Instagram, Messenger og Threads.
- En video-annonce viste et barn og ændrede sig til en seksuel handling.
- Forskerne rapporterede fundene til NCMEC's CyberTipline.
- Meta fjernede annoncerne efter WIRED kontaktede dem.
- Annoncerne blev målrettet mænd i USA, Storbritannien og Europa.
- Meta har tidligere fjernet over 36 millioner stykker børnemisbrug.
Du kan ikke vide dig sikker på, at det, du ser på sociale medier, er blevet kontrolleret - selv betalte annoncer kan indeholde ulovligt materiale, der er gået igennem systemet.
Kilder:
Hacker News: AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.