AI-nyhederxAI anklaget: Grok trænet på børnemishandling
xAI beskyldes i et sagsanlæg for at bruge billeder af misbrugte børn til at træne Grok. Sagen er rejst af et offer, Jane Doe.
Anklagen
Onsdag blev der rejst en sag mod xAI, hvor en kvinde, Jane Doe, fortæller, at hendes billeder fra et misbrug i hendes tidlige barndom er blevet brugt til at træne AI-modellen Grok. Hun fik besked fra Canadian Centre for Child Protection om, at der var fundet AI-genererede billeder af hende på xAI's platform. Det er første gang, at xAI beskyldes for at træne på den slags materiale.
De tekniske detaljer
Sagen hævder, at xAI's vilkår som standard bruger offentlige X-opslag og Groks egne output som træningsdata. Det betyder, at billeder, der deles på X, kan ende i træningsmaterialet. Vilkårene siger dog ikke klart, at børnemishandling, ufrivillige intime billeder eller andet seksuelt indhold er undtaget fra træning. Det gør det svært at fjerne sådanne billeder, når de først er blevet brugt.
Kravet
Jane Doe kræver, at xAI destruerer alle AI-genererede billeder af misbrug, og at Grok blokeres fra at generere seksuelt indhold. Hun har lagt sag an som en gruppesøgsmål på vegne af alle ofre, hvis barndomsbilleder er blevet misbrugt. Desuden kræver hun erstatning, hvis xAI dømmes for at have overtrådt føderale love om børneporno og Masha's Law.
Advokaternes udtalelser
En af Jane Does advokater, Sarah London, siger i en pressemeddelelse, at Jane i næsten to årtier har levet med visheden om, at billeder af det værste, der skete hende, cirkulerer blandt forbrydere online. Advokaten understreger, at xAI skal holdes ansvarlig for bevidst at have trænet sine modeller på billeder af misbrug, og at xAI ifølge advokaten har begået alle tre forbrydelser: produktion, besiddelse og distribution.
Baggrunden
Tidligere har Ars Technica rapporteret om et datasæt, der blev renset, efter at forskere fandt børnemishandling i det, men der er ingen beviser for, at xAI brugte netop det datasæt. Jane Doe's sag er den første, der direkte beskylder xAI for at træne Grok på CSAM. Flere Grok-brugere er desuden blevet anholdt for at generere ulovligt indhold med AI-værktøjet.
- Sagen er rejst af Jane Doe, hvis billeder fra et misbrug i 2000'erne er blevet brugt.
- Det er første gang, at xAI beskyldes for at træne på børnemishandling.
- xAI's vilkår tillader som standard brug af X-opslag til træning.
- Vilkårene siger ikke klart, at børnemishandling er undtaget fra træning.
- Jane Doe kræver erstatning og destruktion af AI-genererede billeder.
- Advokater hævder, at xAI har begået produktion, besiddelse og distribution af børneporno.
- Flere Grok-brugere er blevet anholdt for at generere ulovligt indhold.
Dine billeder på X kan ende i Groks træningsdata, hvis du deler dem offentligt, og så kan AI-genererede versioner af dem dukke op uden dit samtykke.
Kilder:
Ars Technica AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.