AI-nyhederOmer Nahum: AI skal forstå tvetydighed
Forskere vil lære AI at skelne mellem, hvad den ikke ved, og hvad der bare er tvetydigt.
Det er sket
Et forskerhold har udviklet en ny metode, der får store sprogmodeller til at forstå, når et spørgsmål har flere mulige rigtige svar. I stedet for bare at gætte, skal AI'en kunne genkende, at noget er åbent for fortolkning. Forskerne bag hedder blandt andre Omer Nahum.
Hvorfor nu?
Chatbots og andre AI-værktøjer svarer ofte, som om der kun er ét svar. Men mange spørgsmål er tvetydige, især når mennesker har forskellige synspunkter. Metoden skal hjælpe AI med at markere, når svaret ikke er entydigt. Det gør teknologien mere ærlig og brugbar i for eksempel jura eller medicin.
Sådan virker det
Forskerne har trænet modeller til at skelne mellem usikkerhed fra manglende viden og usikkerhed fra reelle fortolkningsmuligheder. Dermed kan AI sige: 'Det her afhænger af, hvordan du ser på det' frem for bare at vælge ét svar. Test viser, at tilgangen giver mere troværdige og nuancerede svar.
Hvad betyder det for dig?
Når du spørger en chatbot om råd eller fakta, vil du fremover lettere kunne se, om svaret er entydigt eller åbent for fortolkning. Det gør dig bedre rustet til at stole på AI'en - eller stille flere spørgsmål.
- Metoden fokuserer på tvetydighed i sprog, ikke kun manglende viden.
- Modellen kan markere, når et spørgsmål har flere gyldige fortolkninger.
- Forskerne tester på store sprogmodeller som GPT og lignende.
- Tilgangen kan bruges i jura, medicin og andre områder med mange synsvinkler.
- Resultaterne er beskrevet i et akademisk paper på arXiv.
Du vil få mere ærlige og nuancerede svar fra AI-chatbots, så du kan gennemskue, hvornår et svar er entydigt - og hvornår du selv må vurdere.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.