ArXiv-metode får AI til at køre hurtigere på din telefon
Forskere fra arXiv har udviklet en metode, der forudsiger AI-hastighed på nye enheder uden test.
Problemet
AI-modeller bliver større og tungere, men de skal også kunne køre på alt fra en dyr computer til en gammel mobil. I dag skal man teste hver model på hver enhed – det tager uger. Det vil forskerne lave om på.
Løsningen
Forskerne har trænet en AI, der kan forudsige forsinkelsen – altså hvor lang tid en model bruger – på en ny enhed, baseret på erfaringer fra andre enheder. De kalder det 'overførbar forsinkelsesforudsigelse', og det virker uden at skulle køre modellen først.
Hvad kan det bruges til?
Metoden kan spare udviklere for mange timers testtid, når de skal vælge den rigtige AI-model til en bestemt telefon eller tablet. Det betyder også, at vi i fremtiden kan få hurtigere AI-assistenter og oversættelsesværktøjer på vores egne enheder.
- Metoden forudsiger AI-modellers hastighed på enheder, den aldrig har set før.
- Den bruger viden fra andre enheder til at gætte forsinkelsen på en ny.
- Det sparer udviklere for at teste hver model manuelt på hver enhed.
- Metoden er særligt nyttig til små enheder som mobiler og tablets.
- Forskerne bag kommer fra universitetet og har offentliggjort arbejdet på arXiv.
Du får hurtigere AI-funktioner på din telefon, fordi udviklere nemmere kan finde den model, der passer præcis til din enhed – uden at bruge uger på test.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · AI-genereret illustration · Tjek altid originalkilden, før du handler på vigtige oplysninger.