AI-nyhederGrowPage gør AI-modeller hurtigere
Nyt system GrowPage styrer hukommelsen smartere i AI-modeller, så svarene bliver hurtigere og driften billigere.
Problemet
AI-modeller som ChatGPT bruger masser af hukommelse, når de svarer på lange spørgsmål. Det gør svarene langsomme og driften dyr for udbyderne. Hidtil har man bare gemt alt i hukommelsen, hvilket er ineffektivt.
Løsningen
Forskerne bag GrowPage har lavet et system, der kun gemmer de vigtigste data. Det frigør plads og gør modellen hurtigere. Test viser, at det kan klare længere samtaler uden at bremse – en klar fordel for brugerne.
Fremtiden
Med smart hukommelsesstyring kan AI-tjenester blive billigere at køre. Det kan betyde lavere priser eller gratis adgang til flere. GrowPage er stadig på forskningsstadiet, men potentialet er stort for alle, der bruger AI dagligt.
- GrowPage styrer hukommelsesbudgettet efter behov i AI-modeller.
- Systemet er udviklet af forskere fra et universitet.
- Det gør AI-svar hurtigere og billigere at levere.
- Teknologien er testet på store sprogmodeller.
- Den kan hjælpe med lange samtaler og komplekse spørgsmål.
- Forskningen er publiceret på arXiv.
Du kan få hurtigere svar fra AI-chatbots, når du stiller lange spørgsmål, uden at tjenesten bliver dyrere at bruge.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.