AI husker ikke, hvad du bad om

Ny forskning afslører, at AI-modeller ofte ignorerer brugerens ønsker, når de skal huske tidligere samtaler. Et problem, der kan ramme alle.

Det nye fund

Forskere har testet, om AI-modeller faktisk følger det, du beder dem om at huske fra tidligere chats. Resultatet overraskede: Selv når modellerne får beskeden klar og tydelig, glemmer de det ofte. Kun i en tredjedel af tilfældene handlede de præcis, som brugeren ønskede. Det viser, at hukommelsen er langt mere upålidelig, end man hidtil har troet.

Sådan blev det testet

Holdet bag undersøgelsen lavede en kontrolleret test, hvor AI-modeller fik forskellige opgaver med klare instrukser om, hvad der skulle huskes. Herefter tjekkede de, om modellerne rent faktisk brugte den viden. Metoden er ny, fordi den skiller det at forstå en besked fra det at følge den – og det er netop her, fejlene opstår ifølge forskerne.

Hvad det betyder

For dig som bruger betyder det, at du ikke kan stole blindt på, at en AI-assistent husker dine præferencer, selvom den siger, at den gør. Især i situationer, hvor du gentager vigtige detaljer flere gange, kan modellen stadig misforstå eller overse dem. Forskerne håber, at deres resultater kan få udviklerne til at bygge bedre hukommelsessystemer ind i fremtidige modeller.

Kilder:
arXiv cs.AI →

Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.