AI-nyhederQi Luo finder metode til at måle AI's strømforbrug
Forskere har udviklet en metode, der kan måle strømforbruget for hver enkelt AI-anmodning, når mange bruges samtidig.
Det nye
Når mange bruger AI-chatbots på samme tid, kører serverne i store batcher, og det er svært at se, hvem der trækker mest strøm. Qi Luo og kolleger har nu fundet en måde at fordele energiforbruget pr. anmodning, så man kan se præcis, hvor meget hver enkelt opgave koster.
Hvorfor det er vigtigt
Datacentre bruger enorme mængder strøm på AI, og med den nye metode kan virksomheder blive bedre til at styre deres energiforbrug. Det kan også gøre det lettere at tage penge for præcis den strøm, hver kunde faktisk bruger, og finde ud af, hvilke opgaver der er mest energitunge.
Hvad nu?
Selve teknikken er lavet til at passe ind i eksisterende systemer, der serverer AI-modeller. Hvis den bliver taget i brug i stor stil, kan det betyde, at strømregningen for AI bliver mere gennemsigtig, og at udbyderne kan optimere deres servere, så de bruger mindre energi – både for klimaet og for pengepungen.
- Forskerne har udviklet en metode til at fordele strømforbrug pr. anmodning i batchet AI-servering.
- Metoden kan hjælpe med at identificere, hvilke AI-opgaver der kræver mest energi.
- Teknikken er designet til at passe ind i eksisterende server-systemer.
- Qi Luo står bag forskningen sammen med fire andre forskere.
- Artiklen er offentliggjort på arXiv under emnet AI.
Du kan få mere gennemsigtighed i, hvad AI koster i strøm – og virksomheder kan bruge det til at gøre AI billigere og grønnere for dig som bruger.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.