AI-nyhederAI-chatbots kan nu bakke hinanden op med ægte viden
Forskere har fundet en måde at skelne ægte AI-viden fra gæt, så flere chatbots kan arbejde sammen uden at gentage fejl.
Det nye fund
En forsker har udviklet en metode, der gør det muligt for flere AI-systemer at dele viden, uden at de bare kopierer hinandens svar. Problemet er nemlig, at når mange AI'er siger det samme, lyder det troværdigt – men ofte er det bare samme fejl gentaget mange gange. Metoden sikrer, at kun viden med reelle beviser tæller med i fællesskabet.
Hvorfor det betyder noget
I dag kan man slippe af sted med at sende 100 AI-chatbots ind i en debat for at skabe falsk konsensus. Med den nye tilgang bliver det meget sværere at manipulere med mængden af stemmer. Systemet tjekker nemlig, om hver enkelt AI faktisk har belæg for det, den siger – ikke bare om den gentager noget, en anden har sagt.
Sådan virker det
Metoden adskiller to ting: hvor mange agenter der siger noget, og hvor mange uafhængige beviser der ligger bag. På den måde kan man have 1.000 AI-agenter, men kun tælle dem som én stemme, hvis de alle trækker på den samme kilde. Det giver et mere ærligt billede af, hvad AI faktisk ved – i stedet for hvad den bare har lært at gentage.
- Forskningen adresserer problemet med AI-agenter, der blindt kopierer hinandens svar.
- Metoden kaldes 'epistemisk Sybil-resistens' og handler om at undgå falsk konsensus.
- Den skiller antal agenter fra antal uafhængige videnskilder.
- Det bliver sværere at manipulere offentlig debat med mange enslydende AI-stemmer.
- Teknologien kan bruges til at gøre AI-samarbejde mere troværdigt og pålideligt.
Du kan fremover stole mere på AI-svar, der bygger på fælles viden – og mindre på masseproducerede holdninger, der bare lyder som fakta.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.