Spring til artiklen
nyhederModellanceringer
← Tilbage til nyhederne
Samfund & etik · TechCrunch AI · 16.11.2026 · 2 min. læsning

OpenAI advarer brugere og leder efter overgrebsbilleder

An OpenAI image-review tool bearing the intact black six-loop OpenAI Blossom examines a blank image tile and assigns it a graduated score for human review. The tile contains no dep

ChatGPT vil midlertidigt lukke konti ved forsøg på at få adgang til seksualiseret materiale med børn. Et nyt billedværktøj skal hjælpe udvalgte virksomheder.

Billeder får en score til gennemgang

OpenAI har udviklet et værktøj, der leder efter billeder af seksuelle overgreb på børn, også når billederne er skabt med AI. Udvalgte virksomheder får gratis adgang gennem OpenAI’s API, en forbindelse, der lader deres programmer bruge værktøjet.

Værktøjet undersøger billeder, det ikke har set før, for visuelle tegn på overgreb. Det giver hvert billede en score, som kan vejlede de personer, der gennemgår materialet.

OpenAI oplyser, at værktøjet i tidlige test med partnere fandt lige så mange overgrebsbilleder, mens det markerede færre billeder til gennemgang. Virksomheden udviklede det sammen med National Center for Missing and Exploited Children, NCMEC, et amerikansk center for savnede og udnyttede børn.

Markeret til gennemgang i OpenAI’s tidlige test, mens samme antal overgrebsbilleder blev fundet. Sammenligningsgrundlaget er ikke oplyst.
48 % færre billeder
Markerede billeder var overgrebsbilleder i de tidlige test. Sammenligningsgrundlaget er ikke oplyst.
2 gange så sandsynligt

ChatGPT kan lukke kontoen midlertidigt

ChatGPT blokerer allerede overgrebsmateriale og anmodninger om det. Nu vil tjenesten også vise en advarsel, når en bruger forsøger at få adgang til materiale, der seksualiserer børn.

Brugeren bliver henvist til specialiseret hjælp til at stoppe skadelig adfærd, og kontoen bliver lukket i 24 timer. Ifølge OpenAI kan gentagne overtrædelser føre til permanent lukning.

Udviklere og efterforskere får vejledning

OpenAI offentliggør også retningslinjer til udviklere, der bruger virksomhedens værktøjer. De handler om at forebygge, opdage og hjælpe brugere med at indberette overgrebsmateriale.

Politimyndigheder, der arbejder med børns sikkerhed, får adgang til blandt andet efterforskningsværktøjer og AI-baseret dataanalyse. Programadministratorer styrer adgangen, og OpenAI tilbyder desuden oplæring og en vejledning til efterforskere.

Derfor er det interessantFærre markeringer kan mindske arbejdet for dem, der gennemgår billeder, men scoren er en vejledning og ikke en endelig afgørelse.

Kilder:
TechCrunch AI → The Verge AI →

Læs dagens AI-nyheder på letlæst dansk →

Genfortalt i egne ord af AI-nyheder.com · AI-genereret illustration · Tjek altid originalkilden, før du handler på vigtige oplysninger.