AI-nyhederZhixiang Wang finder klogere måde at få svar fra AI
Ny forskning fra Zhixiang Wang viser, hvornår det kan betale sig at vælge skjulte AI-signaler frem for afstemning. Resultatet kan give billigere og bedre svar uden flere servere.
Det nye fund
Forskere bag en ny videnskabelig artikel har fundet et kriterium, der forudsiger, hvornår en AI giver bedre svar ved at kigge på dens interne tilstande frem for at lade modellen stemme om svaret flere gange. Det kan betyde, at AI-brugere kan få præcisere svar med færre beregninger.
Hvad betyder det for dig?
Når du bruger værktøjer som ChatGPT, kan metoden give dig hurtigere og billigere svar, fordi AI'en ikke behøver at køre flere gange for at finde det bedste resultat. Forskerne bag – blandt andre Zhixiang Wang – har lavet en måde at finde ud af, hvornår den kloge genvej virker.
Sådan virker det
AI-modeller gemmer masser af information i deres indre lag, før de skriver svaret. Forskernes kriterium kan se på disse skjulte signaler og afgøre, om de er pålidelige nok. Hvis ja, kan man vælge det bedste svar direkte – uden at spørge modellen igen og igen.
- Forskerne har fundet et kriterium, der forudsiger, hvornår skjult-tilstand-valg slår flertalsafstemning.
- Metoden kan reducere behovet for at køre AI-modellen flere gange.
- Undersøgelsen er lavet af Zhixiang Wang og to andre forskere.
- Forskningen er offentliggjort på arXiv under emnet AI.
- Kriteriet bygger på analyser af AI'ens interne repræsentationer.
- Resultaterne kan gøre AI-svar hurtigere og mere effektive.
Når du bruger AI-chatbots, kan du opleve hurtigere og mere præcise svar – uden at udbyderen skal investere i ekstra regnekraft. Det kan også betyde billigere AI-abonnementer på sigt.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.