OpenAI advarer brugere og leder efter overgrebsbilleder

ChatGPT vil midlertidigt lukke konti ved forsøg på at få adgang til seksualiseret materiale med børn. Et nyt billedværktøj skal hjælpe udvalgte virksomheder.
Billeder får en score til gennemgang
OpenAI har udviklet et værktøj, der leder efter billeder af seksuelle overgreb på børn, også når billederne er skabt med AI. Udvalgte virksomheder får gratis adgang gennem OpenAI’s API, en forbindelse, der lader deres programmer bruge værktøjet.
Værktøjet undersøger billeder, det ikke har set før, for visuelle tegn på overgreb. Det giver hvert billede en score, som kan vejlede de personer, der gennemgår materialet.
OpenAI oplyser, at værktøjet i tidlige test med partnere fandt lige så mange overgrebsbilleder, mens det markerede færre billeder til gennemgang. Virksomheden udviklede det sammen med National Center for Missing and Exploited Children, NCMEC, et amerikansk center for savnede og udnyttede børn.
- Markeret til gennemgang i OpenAI’s tidlige test, mens samme antal overgrebsbilleder blev fundet. Sammenligningsgrundlaget er ikke oplyst.
- 48 % færre billeder
- Markerede billeder var overgrebsbilleder i de tidlige test. Sammenligningsgrundlaget er ikke oplyst.
- 2 gange så sandsynligt
ChatGPT kan lukke kontoen midlertidigt
ChatGPT blokerer allerede overgrebsmateriale og anmodninger om det. Nu vil tjenesten også vise en advarsel, når en bruger forsøger at få adgang til materiale, der seksualiserer børn.
Brugeren bliver henvist til specialiseret hjælp til at stoppe skadelig adfærd, og kontoen bliver lukket i 24 timer. Ifølge OpenAI kan gentagne overtrædelser føre til permanent lukning.
Udviklere og efterforskere får vejledning
OpenAI offentliggør også retningslinjer til udviklere, der bruger virksomhedens værktøjer. De handler om at forebygge, opdage og hjælpe brugere med at indberette overgrebsmateriale.
Politimyndigheder, der arbejder med børns sikkerhed, får adgang til blandt andet efterforskningsværktøjer og AI-baseret dataanalyse. Programadministratorer styrer adgangen, og OpenAI tilbyder desuden oplæring og en vejledning til efterforskere.
Kilder:
TechCrunch AI → The Verge AI →
Genfortalt i egne ord af AI-nyheder.com · AI-genereret illustration · Tjek altid originalkilden, før du handler på vigtige oplysninger.