AI-nyhederReddits AI-moderering sletter årti gamle historieindlæg
AI-moderering på sociale medier rammer ved en fejl uskyldige brugere og sletter værdifuldt indhold. Eksperter kræver menneskeligt tilsyn.
Det er sket
På Reddits subreddit r/AskHistorians forsvandt pludselig dusinvis af kommentarer og indlæg helt tilbage fra 2014. Moderatorerne mener, at Reddits nye AI-værktøjer fejlagtigt markerede alt indhold med links til billedsiden Rare Historical Photos som spam. Flere af indlæggene havde taget brugere flere dage at researche og skrive.
De gode tal
Reddit fremhæver selv, at AI har øget håndteringen af had og vold med over 200 procent og reduceret eksponeringen for skadeligt indhold med mere end 40 procent. AI fjerner angiveligt næsten 2 millioner falske stemmer dagligt. Men som AskHistorians-sagen viser, betyder flere sanktioner ikke nødvendigvis bedre moderering - tværtimod kan det gå ud over uskyldige.
Rigtige fejl
Discord indrømmede, at deres AI-system fejlagtigt bannede omkring 8.400 konti mellem maj og juli. AI'en troede, at billeder med ternede gitre - som skakbrætter og regneark - var børneporno. En bug gjorde, at systemet omgik det menneskelige tjek. Tumblr ramte også ved en fejl over 200 konti på en eftermiddag.
Hvad nu?
Mange platforme skærer ned på menneskelige moderatorer for at spare penge. Men indtil AI kan undgå elementære fejl, er der brug for menneskeligt tilsyn. Spambots bliver også sværere at opdage, fordi de efterligner rigtige mennesker. Moderatorerne efterlyser mere gennemsigtighed, så uskyldige kan appellere, når de rammes.
- Reddits AI slettede kommentarer helt tilbage fra 2014 på r/AskHistorians.
- AI troede, at links til Rare Historical Photos var spam.
- Discord's AI forvekslede skakbrætter og regneark med børneporno.
- Marketingbureauer bruger nu AI-chatbots til at sprede reklame på Reddit.
- Flere Facebook- og Instagram-brugere er blevet massedannet uden forklaring.
- Tumblr's AI flaggede fejlagtigt over 200 konti som problematiske.
Du kan blive ramt af en fejlagtig AI-ban uden at kunne tale med et menneske - og miste adgang til fællesskaber og gemt indhold på få sekunder.
Kilder:
Ars Technica AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.