AI-nyhederAI's moral ligner din – men er helt anderledes
Ny forskning viser, at AI og mennesker er enige om moralske valg, men af helt forskellige grunde. Det kan få stor betydning for tilliden til teknologien.
Det er sket
Forskere har testet, hvordan AI-modeller og mennesker træffer etiske beslutninger. Resultatet: De er ofte enige om, hvad der er rigtigt og forkert – men når man graver dybere, viser det sig, at de kommer frem til svarene på vidt forskellige måder. Det rejser spørgsmålet, om AI overhovedet kan siges at have en moral, der ligner vores.
Hvad er problemet?
Forskerne bag studiet kalder det en misforståelse at tro, at enighed betyder, at AI'en tænker som os. Hvis en AI svarer 'nej' til at lyve, kan det skyldes helt andre logikker end menneskelige værdier. Det gør det svært at stole på AI i situationer, hvor etisk dømmekraft er afgørende – som i sundhedsvæsenet eller i retssale.
Sådan kan du mærke det
I praksis betyder det, at du ikke kan regne med, at en AI's svar afspejler dine værdier – selv når svaret lyder rigtigt. Spørger du eksempelvis en chatbot om et dilemma, kan du få et svar, der ligner et menneskes, men som bygger på en helt anden tilgang. Det er værd at huske, når du bruger AI til rådgivning.
- Forskningen finder, at mennesker og AI ofte er enige i etiske vurderinger.
- Men de underliggende grunde til vurderingerne er forskellige.
- Studiet advarer mod at forveksle enighed med ægte moralsk forståelse.
- Konsekvenserne er størst i områder som sundhed og jura.
Du kan ikke stole blindt på AI's moralske svar – selv når de lyder rigtige. Brug din egen dømmekraft, når du får råd fra chatbots i følsomme situationer.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.