AI-nyhederIsmail Erbas: AI-hukommelse fejler ved lav præcision
Ny forskning viser, at AI-modeller mister hukommelse, når de kører med lav præcision. Ismail Erbas har fundet en løsning, der kan redde AI-hukommelsen.
Problemet
AI-modeller, der behandler tidligere informationer, bruger en teknik kaldet 'recurrent-state'. Når man skruer ned for præcisionen for at gøre AI'en hurtigere og mindre strømkravende, går det galt: Hukommelsen 'knækker', og AI'en glemmer vigtige detaljer fra tidligere i samtalen eller dataene.
Løsningen
Ismail Erbas og kollegerne har udviklet en metode kaldet 'write-back', der retter op på problemet. Ved at skrive den lavpræcisions-hukommelse tilbage i en højere præcision efter hvert trin, undgår de, at informationen går tabt. Det gør AI'en markant bedre til at huske, selv når den kører med lav præcision.
Hvad det betyder
For almindelige brugere betyder det, at fremtidens AI-assistenter potentielt kan blive både hurtigere og mere effektive uden at miste evnen til at huske kontekst. Det kan føre til længere og mere sammenhængende samtaler med ChatGPT-lignende værktøjer, selv på mindre kraftfulde enheder som smartphones.
- Forskningen er udført af Ismail Erbas og to andre forskere.
- Artiklen er uploadet til arXiv og har titlen 'When Quantization Breaks Memory'.
- Problemet opstår, når AI-modeller bruger lav præcision (quantization).
- Metoden 'write-back' løser problemet ved at bevare hukommelsen.
- Forskningen er relevant for såkaldt 'temporal inference' - AI, der behandler data over tid.
- Løsningen kan gøre AI hurtigere og mindre ressourcekrævende.
Fremtidens AI-assistenter kan blive hurtigere uden at miste hukommelsen, hvilket kan betyde længere og mere intelligente samtaler med dine digitale værktøjer.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.