Forskere finder tænding i GPT og Gemini

Ny forskning kortlægger, hvornår sprogmodeller tænder for deres indre arbejdsrum. Det kan gøre AI mere gennemsigtig og pålidelig.

Tændingen fundet

Forskere har fundet et mønster i, hvordan store sprogmodeller som GPT og Gemini skifter fra at gentage viden til at tænke rigtigt. De kalder det 'Ignition Index' - et mål for, hvornår modellen åbner for sin globale arbejdshukommelse. Det er første gang, man kan se på indersiden, hvornår AI'en faktisk begynder at behandle information aktivt, i stedet for bare at matche mønstre.

En skjult tænding

Opdagelsen viser, at modellerne pludselig 'tænder' - ligesom en motor - og at hele arbejdsrummet aktiveres på én gang. Før troede man, at sprogmodeller bare genererede tekst ord for ord. Men målingerne viser, at der sker en markant ændring i aktiviteten på tværs af hele netværket på et bestemt tidspunkt. Det giver forskerne et helt nyt værktøj til at forstå, hvad der foregår inde i de meget komplekse systemer.

Hvad kan det bruges til?

Målet kan bruges til at finde ud af, om en AI rent faktisk har forstået en opgave - eller bare gætter. Hvis 'tændingen' ikke sker, kan det være et tegn på, at svaret er upålideligt. Det kan blive vigtigt i fremtiden, når AI skal bruges til alvorlige opgaver som medicin eller jura, hvor vi har brug for at vide, at modellen ikke bare lyder overbevisende.

Kilder:
arXiv cs.AI →

Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.