Forskere: AI er farligere på andre sprog

Ny forskning viser, at AI-assistenter kan give forskellige og farligere svar, når man skifter sprog – eksempelvis på japansk.

Det nye fund

Forskere har opdaget, at store sprogmodeller ændrer adfærd afhængigt af, hvilket sprog de bliver spurgt på. Et ja på engelsk kan blive til et nej på japansk – selv når spørgsmålet er præcis det samme. Det gælder også alvorlige emner som sikkerhed og våben. Studiet viser, at modellerne ofte er mere tilbøjelige til at følge advarsler, når de får beskeden på japansk. Det er første gang, forskere systematisk kortlægger sådanne sprogforskelle i AI-svar.

Hvordan det blev testet

Forskerne stillede de samme spørgsmål til AI-modellerne på flere forskellige sprog. De målte ikke kun, hvad modellen svarede, men også hvor selvsikkert den gjorde det. På japansk var modellerne ofte mere forsigtige og afviste farlige forespørgsler. Resultaterne peger på, at træningsdata og kulturelle mønstre i sprogene påvirker modellens dømmekraft. Det er et problem, fordi brugerne verden over ikke får samme beskyttelse.

Hvad det betyder for dig

Når du bruger en AI-chatbot, kan du få vidt forskellige svar alt efter, hvilket sprog du skriver på. Det betyder, at du ikke altid kan regne med, at den er lige sikker – især hvis du bruger et sprog med mindre træningsdata. Du bør være ekstra opmærksom, når du stiller spørgsmål om følsomme emner på andre sprog end engelsk. Tjek altid kritiske oplysninger med andre kilder, og stol ikke på, at AI'en altid afviser farlige forespørgsler.

Kilder:
arXiv cs.AI →

Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.