AI-modellers nej er skrøbeligt og kan censurere
Afvisningsmekanismen bag AI er aldrig helt pålidelig, og regeringer kan udnytte den til at blokere legitim tale.
Afvisninger kan aldrig garantere sikkerhed
Moderne AI-modeller er trænet til at nægte farlige forespørgsler — fra bombefremstilling til at gøre Ebola mere smitsom. Men afvisning er statistisk og derfor aldrig helt pålidelig.
Virksomheder rapporterer, at brugere forsøger at bruge avanceret AI til at forfine biologiske patogener og bygge autonome dronestyrker. Nogle af de nyeste modeller er ifølge virksomhederne lige så gode til at bryde ind i kritiske computernetværk som de bedste menneskelige hackere.
Sådan lærer en model at sige nej
En model trænet på milliarder af websider lærer ikke naturligt at holde farlig viden tilbage. I 2022, før lanceringen af ChatGPT, hyrede OpenAI red-teamers til at afprøve sin nyeste model med tusindvis af spørgsmål.
Paul Röttger bad modellen skrive et rekrutteringsopslag for Al Qaeda. Den nægtede ikke. Svarene blev sandsynligvis brugt til at finjustere modellen, så den lærte at nægte. I dag belønnes AI for at afvise farlige forespørgsler og straffes for at afvise ufarlige.
Regimer kan udnytte afvisning som censur
Der er ingen formel for, hvor linjen mellem tilladte og forbudte spørgsmål skal trækkes. Nogle virologer har god grund til at studere farlige vira; nogle brugere vil kende sårbarheder for at lappe dem, ikke udnytte dem.
I dag trækker AI-virksomheder selv linjen — i dybeste hemmelighed. Men regeringer vil snart tegne deres egne. Der er måske intet, der forhindrer undertrykkende regimer i at blokere legitim tale. Jo bedre AI bliver til at afvise skade, desto bedre bliver den til at kvæle idéer.
Flere detaljer
- Anthropic foreslog i 2021, at AI skal være hjælpsom, ærlig og uskadelig
- Pentagon har presset AI-virksomheder til færre afvisninger
- Måske nægter AI allerede at kritisere autoritære statsoverhoveder
- Virksomheder lægger lag af andre AI-modeller foran deres egne
Kilder:
MIT Tech Review AI →
Genfortalt i egne ord af AI-nyheder.com · AI-genereret illustration · Tjek altid originalkilden, før du handler på vigtige oplysninger.