Xingzi Xus trie-automater får AI til at tænke hurtigere
Forsker Xingzi Xu og en kollega har fundet en smartere måde at styre AI's output på med trie-automater, så det bliver både hurtigere og billigere.
Problemet
Når en AI skal svare på et spørgsmål, vælger den ord ét ad gangen. Men nogle gange må den kun vælge mellem et bestemt udvalg – for eksempel navne på alle danske byer. Den hidtidige metode krævede, at AI'en tjekkede hele listen hver gang, hvilket var både langsomt og krævede masser af hukommelse.
Løsningen
Forskerne bag det nye studie har bygget en såkaldt trie-automat. Den sorterer alle mulige svar i et træ-lignende system, så AI'en kun skal kigge på de grene, der faktisk kan lade sig gøre. Resultatet er, at AI'en bruger langt mindre hukommelse og arbejder hurtigere, når den skal holdes inden for snævre rammer.
Hvad nu?
Metoden kan især komme til at betyde noget for virksomheder, der bruger AI til for eksempel at udfylde formularer eller søge i store kataloger. Når AI'en skal vælge mellem tusindvis af muligheder, kan den nye teknik gøre det både hurtigere og uden at løbe tør for hukommelse – også på almindelige computere.
- Forskere har udviklet en ny metode kaldet trie-automater til at styre AI's output.
- Metoden gør AI hurtigere, når den skal vælge mellem mange forudbestemte muligheder.
- Den bruger markant mindre hukommelse end den tidligere tilgang.
- Teknikken er særligt nyttig ved store lister, som for eksempel alle bynavne.
- Den nye metode kan køre på almindelige computere uden store ressourcer.
- Studiet er lavet af Xingzi Xu og en kollega.
Du får hurtigere og billigere AI-svar, når systemer skal vælge mellem mange faste muligheder – uden at det kræver en dyr supercomputer.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.
AI-nyheder