AI-nyhederArslans Nexus får chatbots til at huske længere
Mustafa Arslans nye AI-metode Nexus lader chatbots huske mere og bruge værktøjer smartere. Den gemmer og genbruger data fra tidligere svar.
Det nye trick
Forskeren Mustafa Arslan har udviklet Nexus, en teknik der hjælper AI-modeller med at holde styr på lange samtaler. Den gemmer og genbruger data fra tidligere svar, så chatbotten ikke glemmer begyndelsen af en lang dialog. Det gør samtalerne mere sammenhængende uden at kræve ekstra hukommelse fra din computer.
Værktøjer på hylden
Nexus ændrer også måden, AI vælger værktøjer på, som fx at søge på nettet eller regne. Normalt blandes søgning og selve svaret sammen, men Nexus adskiller dem. Det betyder, at modellen kan hente fakta hurtigere og med færre fejl – uden at skulle loope flere gange.
- Nexus er en ny metode til AI-chatbots på enheder med samlet hukommelse.
- Den bruger 'depth-adaptive KV-cache splicing' til at gemme og genbruge data.
- Metoden adskiller værktøjsvalg fra svargenerering for at undgå fejl.
- Den er udviklet til agentiske AI-modeller, der selv beslutter handlinger.
- Nexus kan køre på almindelige computere uden ekstra hardware.
Du kan snart få en chatassistent, der husker hele din lange samtale og henter faktuelle svar hurtigere – selv på en almindelig computer eller mobil.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.