Forskeres FBLayout lader dig træne AI på mobilen
FBLayout omarrangerer hukommelsen, så en helt almindelig smartphone kan finjustere sprogmodeller lokalt.
Det nye trick
Normalt kræver det voldsomt regnekraft at lære en AI nyt. Men forskere bag metoden FBLayout har omarrangeret, hvordan data flytter rundt i hukommelsen. Det sparer så meget plads, at en almindelig smartphone kan gøre arbejdet.
Hvorfor det betyder noget
I dag sendes dine data til skyen, når du vil træne en AI. Det batter på strøm og privatliv. Med FBLayout kan alt foregå lokalt på din telefon – hurtigere og uden at dine oplysninger forlader lommen.
Hvad kan det bruges til?
Forestil dig at finjustere en AI til din egen skrivestil eller stemmekommandoer direkte på mobilen. Forskernes metode baner vejen for personlige assistenter, der lærer af dig uden at skulle have forbindelse til internettet.
- Metoden optimerer, hvordan AI-modellens data placeres i telefonens hukommelse.
- Normalt fylder en sprogmodel så meget, at den ikke kan være på mobilen.
- FBLayout reducerer hukommelsesforbruget markant under finjustering.
- Teknikken er testet på almindelige mobil-GPU'er uden særlig hardware.
- Arbejdet er præsenteret på en international konference om maskinlæring.
Du slipper for at sende private beskeder eller dokumenter til skyen, når din AI skal lære noget nyt – alt foregår sikkert på din egen telefon.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.