Farhana Amin: Maskeret diffusion AI kan køre hurtigere på din hardware

Ny forskning fra Farhana Amin og tre andre viser, hvordan maskeret diffusion AI kan serveres langt mere effektivt på eksisterende hardware – med store konsekvenser for hastighed og pris.

Det nye gennembrud

Forskere bag en ny undersøgelse har set nærmere på, hvordan såkaldte maskeret diffusion AI-modeller opfører sig på rigtig hardware – ikke kun i teorien. De har fundet ud af, at disse modeller har helt særlige arbejdsmønstre, som kan udnyttes til at gøre dem hurtigere og billigere at drive. Det er en kæmpe nyhed, fordi de hidtil har været svære at få til at yde deres bedste i praksis.

Hvorfor det betyder noget

Maskeret diffusion AI er en ny type AI, der kan generere tekst, billeder og meget mere. Men den har været langsom, når mange brugere skal bruge den samtidig. Forskernes resultater viser, at man med de rigtige indstillinger kan få meget mere ud af den hardware, der allerede findes i datacentre. Det kan gøre AI-tjenester markant billigere og hurtigere for dig som bruger.

Hvad nu?

Forskerne håber, at deres resultater kan føre til nye værktøjer og systemer, der gør det nemmere at bruge maskeret diffusion AI i stor skala. Næste skridt er at få teknologien ud til virksomheder, der driver AI-tjenester. Hvis det lykkes, kan du opleve, at dine yndlings-AI-værktøjer reagerer hurtigere og koster mindre – også på din egen enhed.

Kilder:
arXiv cs.AI →

Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.