AI-nyhederSungwon Chae: AI-kort på dansk skal vise mere
Forskeren Sungwon Chae viser, at de nuværende AI-kort ikke fortæller nok om risiko, når open-weight-modeller bruges af andre.
Problemet
Når en AI-model som eksempelvis Llama bliver frigivet med åbne vægte, kan hvem som helst downloade og bygge videre på den. Men det lille datakort, der følger med - kaldet en model card - beskriver mest, hvordan modellen blev trænet, ikke hvad den kan bruges til i virkeligheden. Det gør det svært for virksomheder og myndigheder at vide, hvornår en model er farlig. Sungwon Chae peger på, at kortene skal indeholde konkrete eksempler på uheld og begrænsninger, så risikoen bliver synlig.
Hvad kan bruges?
Chae foreslår, at model cards skal laves om, så de passer til den verden, hvor open-weight-modeller bliver brugt af mange forskellige parter - fra startups til offentlige institutioner. I stedet for kun at beskrive træningsdata skal kortene vise, hvordan modellen opfører sig i praksis, fx i chatbots eller i kodegenerering. Det vil gøre det lettere for en udvikler at vælge den rigtige model og undgå uventede fejl. Kortene skal opdateres løbende, ikke kun udgives én gang.
Kritikken
Nogle vil mene, at model cards allerede er gode nok, fordi de indeholder mange tekniske detaljer. Men Chae viser, at de tekniske oplysninger ofte er for komplekse for folk uden AI-ekspertise. Samtidig mangler der standarder for, hvordan man måler risici, så man kan sammenligne modeller fra forskellige udviklere. Uden fælles regler bliver det næsten umuligt for tilsynsmyndighederne at håndhæve regler som EU's AI-lov.
Hvad nu?
Forskeren opfordrer til, at AI-udviklere, forskere og politikere sammen laver nye retningslinjer for model cards. Han mener, at der skal være krav om, at kortene indeholder letforståelige risikobeskrivelser og eksempler på, hvad der kan gå galt. Hvis det sker, vil open-weight-modeller kunne bruges mere sikkert i samfundet, og brugerne vil få større tillid til teknologien.
- Model cards beskriver træningsdata, men ikke de reelle risici ved open-weight-modeller.
- Chae foreslår, at kortene opdateres løbende og viser praksis, ikke kun statiske fakta.
- Manglende standarder gør det svært at sammenligne risici mellem forskellige AI-modeller.
- EU's AI-lov kræver, at udviklere dokumenterer risiko, men de nuværende kort leverer ikke nok.
- Open-weight-modeller kan downloades af alle, hvilket øger behovet for klare advarsler.
Du får mere sikker AI, når udviklere skal vise konkrete risici på en forståelig måde - og du kan bedre vurdere, om en AI-tjeneste er værd at stole på.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.