AI-nyhederNyt trick får AI til at bruge værktøjer hurtigere
Forskere har fundet en måde, hvorpå AI-agenter kan arbejde hurtigere, når de skal bruge eksterne værktøjer som søgninger og beregninger. Metoden mindsker ventetiden markant.
Det nye gennembrud
Når AI-assistenter skal lave noget praktisk – som at hente data eller beregne – venter de ofte på, at hvert enkelt værktøj svarer. Det gør dem langsomme. Forskere har nu fundet en metode, hvor AI'en gætter på flere skridt på én gang og gemmer dem, indtil de bliver nødvendige. Det betyder, at assistenten kan arbejde i ét hug i stedet for at holde pause.
Sådan virker tricket
Metoden kaldes 'spekulativ makro-commit'. I stedet for at vente på et resultat, gætter AI'en på, hvad værktøjet vil svare, og fortsætter sit arbejde. Når det rigtige svar kommer, kan den rette eventuelle fejl. Det minder om, når du gætter slutningen på en sætning, mens en anden taler – du er allerede klar til at svare, når de er færdige.
Hvad kan det bruges til?
For almindelige mennesker betyder det hurtigere og mere smidige AI-assistenter i hverdagen – fx digitale sekretærer, der kan booke møder, søge på nettet eller styre hjemmeenheder uden irriterende forsinkelser. Det kan også gøre store opgaver, hvor AI skal bruge mange forskellige programmer, meget mere effektive.
- Forskerne bag er Zeyu Liu og to andre fra et forskningsmiljø på arXiv.
- Metoden lader AI-agenter forudsige værktøjssvar uden at vente.
- Den reducerer den tid, hvor AI'en står stille og venter på data.
- Systemet retter fejl, når de rigtige svar kommer tilbage.
- Artiklen er publiceret på arXiv under kategorien cs.AI.
Du kan få hurtigere og mere flydende AI-assistenter i hverdagen, der ikke får dig til at vente, hver gang de skal hente et svar eller bruge et program.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.