AI-nyhederForsøg på at gøre AI hurtigere mislykkes – men viser vejen
Forskere testede en metode til at mindske AI'ernes hukommelsesbehov på små enheder. Det virkede ikke – men målingerne giver vigtig viden.
Det nye forsøg
En forskergruppe satte sig for at løse et stort problem: AI-modeller er ofte for tunge til at køre på telefoner og andre små enheder. Ideen var at træne AI'ens 'router' – den der vælger, hvilke eksperter der skal arbejde – så dataene blev gemt tættere på. Men forsøget mislykkedes, og det er der vigtig læring i.
Hvad gik galt
På trods af en grundigt planlagt metode og mange afprøvninger, kunne routerne ikke lære at forudse, hvilke eksperter der ville blive brugt. Det betød, at dataene ikke kunne ligge i hurtig hukommelse, og AI'en blev ikke hurtigere. Resultatet er ærligt beskrevet som et 'negativt resultat' – noget forskere sjældent offentliggør.
Derfor tæller det
Selvom metoden ikke virkede, har forskerne lavet detaljerede målinger af, hvordan AI bruger hukommelse og båndbredde på kanten. Det kan hjælpe andre med at finde nye løsninger. At dele fejlslagne forsøg sparer andre for at gentage dem – og det fremskynder i sidste ende udviklingen af effektive AI-modeller.
- Forskerne undersøgte, hvordan man kan træne AI-routere til at forudse ekspertvalg.
- Målet var at reducere hukommelsesforbruget på små enheder som telefoner.
- Metoden gav ikke de forventede resultater – et klart negativt resultat.
- Undersøgelsen inkluderer detaljerede systemmålinger af hukommelse og båndbredde.
- Resultaterne er frigivet for at undgå, at andre gentager samme fejl.
- Forskningen kan hjælpe med at udvikle bedre strategier for AI på kanten.
Du kan forvente AI-funktioner på din telefon bliver bedre, fordi forskere lærer af fejl som denne – og undgår at spilde tid på samme døde vej.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.