AI-nyhederNvidias Nemotron-model skal fange had og sex i video
Ny AI fra Nvidia kan genkende had, sex og vold i både tekst, billeder og video – og forklare sine beslutninger på flere sprog.
Det er sket
Forskere hos Nvidia har bygget en kompakt AI, som de kalder Nemotron 3.5 Content Safety Moderator. Den er trænet til at opdage problematisk indhold som had, vold, sex og narko – ikke kun i tekst og billeder, men også i video. Det nye er, at modellen er lille nok til at køre på en almindelig computer.
Sådan virker den
I stedet for bare at sige 'ja' eller 'nej' til indhold, forklarer Nemotron, hvorfor noget er problematisk. Den kan for eksempel vurdere, om en scene er voldelig, og begrunde det. Modellen forstår flere sprog og kan derfor bruges i mange lande. Det gør den langt mere anvendelig end ældre systemer, der kun kiggede på tekst.
Hvad nu?
Nvidia mener, at modellen kan hjælpe sociale medier, spil og andre platforme med at holde styr på indhold hurtigere og billigere. Fordi den er kompakt, kan den køre direkte på en server uden store resurser. Det kan blive et skridt mod mere automatisk – og mere forklarligt – indholdsmoderering i fremtiden.
- Modellen kan analysere tekst, billeder og video i samme system.
- Den giver forklaringer på sine vurderinger, ikke kun et flag.
- Den er designet til at være 'kompakt' og dermed let at køre.
- Den understøtter flere sprog – så den kan bruges globalt.
- Den er trænet til at genkende had, vold, sex og andre farer.
- Nvidia har ikke oplyst en konkret udgivelsesdato.
Du kan få mere troværdig beskyttelse mod had og vold på nettet – og platforme kan gøre det hurtigere og med mindre strøm, fordi modellen ikke kræver en kæmpe computer.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.