AI-nyhederNyt I-CARE-system skal få AI-generatorer til at glemme
Forskere har udviklet I-CARE, der tester, hvordan AI-billedgeneratorer kan fås til at glemme bestemt indhold. Det er sværere end troet, viser forskningen.
Det nye
Forskere har udviklet et system kaldet I-CARE, der tester, hvordan AI-billedgeneratorer kan 'aflearnes' – altså få dem til at glemme bestemte stilarter, objekter eller endda personer. Det sker i et kontrolleret miljø, hvor de kan undersøge, hvad der sker, når modellen for eksempel skal lære at undgå at gengive et bestemt motiv.
Uventet adfærd
Undersøgelsen viser, at når modellen lærer at glemme noget, kan det påvirke dens evne til at generere helt andre billeder – noget forskerne kalder 'interferens'. Eksempelvis kan modellen pludselig blive dårligere til at tegne en kat, hvis man lærer den at glemme en hund, hvis de to begreber er for tæt forbundne.
Hvad betyder det?
Det er vigtigt, fordi AI-virksomheder som OpenAI og Google ofte bliver bedt om at fjerne ophavsretsbeskyttet materiale eller krænkende indhold fra deres modeller. Forskningen viser, at det ikke er så enkelt som at slette en fil – det kræver en mere nuanceret tilgang, hvis modellen fortsat skal være god til alt muligt andet.
- Forskerne bag hedder Leonardo Santiago Benitez Pereira og to andre.
- I-CARE står for et nyt system til at teste AI-aflearning.
- Undersøgelsen fokuserer på tekst-til-billede-modeller, der laver billeder ud fra tekst.
- Interferens betyder, at aflearning kan skade andre evner i modellen.
- Resultaterne kan hjælpe med at gøre AI-modeller mere sikre og ansvarlige.
Når du bruger AI-værktøjer til at lave billeder, kan virksomhederne nu bedre fjerne uønsket indhold uden at ødelægge kvaliteten – så du slipper for mærkelige fejl.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.