AI-nyhederOxford-forskning: Debat gør ikke AI'ere klogere
Ny forskning viser, at flere AI'er, der debatterer sammen, ikke bliver mere præcise. Løsningen er helt andre modeller med ny viden.
Det har de fundet
En gruppe forskere fra Oxford har undersøgt, om flere AI'er, der taler sammen, kan nå frem til mere rigtige svar. Idéen lyder smart: Lad flere 'hjerner' debattere og rette hinanden. Men forskningen viser, at hvis alle AI'erne er bygget på samme type teknologi og samme data, så bliver svarene hverken bedre eller mere pålidelige. De gentager bare de samme fejl.
Hvorfor det sker
Problemet er, at AI-modellerne deler de samme 'blinde pletter'. Når de debatterer, tror de ofte, de er uenige, men i virkeligheden har de bare forskellige måder at sige det samme på. Derfor opstår der ikke ny viden i debatten. Forskerne sammenligner det med at spørge en flok mennesker, der har læst den samme forkerte wiki-side – de kan diskutere længe, men ingen opdager fejlen.
Hvad betyder det for dig?
Det betyder, at de AI-værktøjer, du bruger i hverdagen, ikke nødvendigvis bliver klogere, bare fordi de er koblet sammen med andre AI'er. Hvis du fx bruger AI til at tjekke en faktuel påstand, kan du ikke regne med, at en 'AI-debat' fanger fejlen. Du skal stadig selv være kritisk over for svarene og tjekke dem op mod rigtige, troværdige kilder.
Vejen videre
Forskerne peger på, at den eneste reelle vej frem er at bruge AI-modeller, der er bygget på forskellige grundlag – altså trænet på forskellige data eller med forskellige metoder. Kun på den måde kan de udfordre hinanden med noget, den anden ikke allerede ved. Indtil da er en debat mellem ensartede AI'er mest for show.
- Forskere fra Oxford har undersøgt effekten af debat mellem ensartede AI-modeller.
- Resultatet viser, at debat ikke gør svarene mere præcise eller pålidelige.
- Fejlene opstår, fordi modellerne deler de samme træningsdata og blinde pletter.
- Forskerne anbefaler at bruge forskellige AI-grundmodeller for at opnå reel forbedring.
- Artiklen er publiceret på forskningsarkivet arXiv.
Du kan ikke stole blindt på, at AI bliver klogere af at 'tænke højt' sammen med andre AI'er. Tjek altid vigtige fakta mod en pålidelig, menneskelig kilde.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.