AI-nyhederNy metode kan gøre AI hurtigere og billigere
Forskere har fundet en måde at slukke ubrugelige dele i store AI-modeller og gøre dem hurtigere uden at miste kvalitet.
Det er sket
Forskere har udviklet en metode, der kan finde ud af, hvilke dele af en stor AI-model der faktisk er nødvendige. Ved at slukke for de mindst vigtige dele kan modellen arbejde hurtigere og bruge mindre strøm – uden at svarene bliver dårligere. Metoden hedder magnitude-based expert masking.
Sådan virker det
Store AI-modeller er bygget op af mange små specialiserede dele, såkaldte eksperter. Tidligere har man slukket eksperter på samme måde i hele modellen. Det nye er, at man kigger på hver enkelt lag i modellen og kun slukker dér, hvor det giver mening. Det giver et mere præcist og effektivt resultat.
Hvad kan det bruges til?
Det kan betyde, at AI-modeller bliver billigere at drive – både for virksomheder og i sidste ende for dig som bruger. Hvis en chatbot eller en oversætter kan køre hurtigere og bruge mindre regnekraft, kan den også køre på mere almindelig hardware, for eksempel i din telefon eller computer.
Hvorfor er det vigtigt?
De helt store AI-modeller bruger enorme mængder energi og kræver store serverparker. Hvis man kan gøre dem mere effektive, bliver de grønnere og også lettere at få adgang til for flere. Det kan bane vejen for, at bedre AI ikke kun er noget for de store techgiganter.
- Forskere tester, hvilke eksperter i AI-modeller der kan slukkes uden at ødelægge kvaliteten.
- Metoden kigger på hvert lag i modellen i stedet for hele modellen under ét.
- Målet er at gøre AI-modeller hurtigere og mindre strømkrævende.
- En mere effektiv AI kan køre på almindelige enheder som telefoner og computere.
Du kan få hurtigere og billigere AI i din hverdag – uden at svarene bliver dårligere.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.