AI-nyhederUI-TARS lærer at sige stop
Forskere har udviklet en metode, så AI-assistenten UI-TARS kan stoppe i tide og undgå fejl på din skærm.
Det nye trick
Forskere bag studiet har fundet en måde, hvorpå AI-assistenter, der navigerer på din computer eller telefon, kan lære at genkende konflikter. Tidligere stoppede de kun, hvis de kørte fast, men nu kan de opdage, hvornår deres næste skridt vil skabe problemer. Det betyder, at de kan stoppe i tide, før de laver en fejl.
Testen viser
I test med en AI-assistent kaldet UI-TARS viste den nye metode gode resultater. Assistenten lavede markant færre fejl, når den selv skulle beslutte, hvornår den ikke skulle handle. Konkret betød det en forbedring på op til 24,7 procentpoint i opgaver, hvor den skulle undgå at trykke på forkerte ting. Det er et stort spring fremad for pålideligheden.
Hvad nu?
Forskerne håber, at metoden kan bruges i fremtidens AI-assistenter, så de bliver mere samarbejdsvillige og mindre risikable at have med at gøre. I stedet for at gætte sig frem, kan de lære at sige 'stop, jeg er ikke sikker'. Det kan gøre dem mere trygge at bruge i hverdagen, hvor de skal hjælpe med alt fra booking til at sortere mails.
- Forskerne har udviklet en metode, der gør AI-assistenter opmærksomme på konflikter.
- Metoden blev testet med AI-modellen UI-TARS.
- Assistenten kan nu genkende, hvornår dens næste handling vil skabe problemer.
- Forskningen kan gøre AI-assistenter mere pålidelige i dagligdagen.
- Målet er, at AI'en stopper i tide i stedet for at lave fejl.
Du kan snart få en AI-assistent, der ikke bare handler, men også tænker sig om og stopper, før den laver en fejl på din computer eller telefon.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.