AI-nyhederAI fejler når tredje part bliver snydt
Ny forskning viser, at sprogmodeller har svært ved at forstå sociale konsekvenser for andre. Det kan betyde dårligere råd i hverdagen.
Det nye studie
Forskere har testet, hvor godt AI-modeller forstår sociale situationer, hvor det ikke bare handler om rigtigt og forkert. De kalder det andenordens social ræsonnering - altså evnen til at tænke over, hvordan andres handlinger påvirker tredjepart, fx når en ven lyver for en anden.
Store huller
Selv de bedste modeller klarer sig dårligere end mennesker i disse komplicerede dilemmaer. De er gode til simple sandheder, men mister tråden, når de skal vurdere intentioner og følelser hos flere personer på én gang. Det kan give skæve svar i chatbots, der rådgiver om sociale problemer.
Virkelighedens brug
AI bliver i stigende grad brugt til at hjælpe med alt fra konflikter på jobbet til familiedramaer. Hvis modellen ikke forstår, hvem der bliver ramt af hvad, kan dens råd være både upålidelige og utilsigtet skadelige, når mennesker følger dem i virkelige situationer.
- Studiet er lavet af Sunny Rai og otte andre forskere.
- Fokus er på andenordens social ræsonnering i store sprogmodeller.
- Modellerne testes på opgaver, der involverer flere personers perspektiver.
- Resultaterne viser tydelige mangler sammenlignet med menneskelig dømmekraft.
- Artiklen er uploadet på arXiv i juli 2026.
Når du spørger en chatbot til råds i et socialt dilemma, kan svaret overse, hvordan andre bliver påvirket. Vær ekstra kritisk, indtil modellerne bliver bedre.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.