AI-nyhederMohsen Arjmandi bygger AI, der holder styr på sig selv
Ny metode lader AI-modeller dobbelttjekke deres egne planer og undgå at køre af sporet i lange opgaver.
Problemet
AI-assistenter, der skal løse lange opgaver, mister ofte fokus og begynder at ændre planen undervejs – det kaldes 'drift'. Forskere har tidligere ikke kunnet skelne mellem, hvornår AI'en bare justerer, og hvornår den helt mister sit oprindelige mål.
Løsningen
Forsker Mohsen Arjmandi har udviklet et system med to roller: Én del af AI'en kommer med forslag, mens en anden del – 'den udførende' – godkender hvert skridt. Det gør, at AI'en selv verificerer, at den stadig følger den oprindelige plan.
Hvorfor det nytter
Metoden adskiller to former for drift, så forskere kan se præcis, hvornår og hvorfor AI'en mister tråden. Det kan gøre AI mere pålidelig til opgaver som at planlægge rejser, styre projekter eller holde styr på lange dokumenter.
- AI-assistenter mister ofte fokus i lange opgaver og ændrer planen undervejs.
- Ny metode deler AI'en i en forslagsstiller og en kontrollør.
- Den udførende del godkender hvert skridt og tjekker mod målene.
- Metoden adskiller 'commitment drift' fra 'binding drift'.
- Forskningen kan gøre AI mere pålidelig i virkelige opgaver.
- Systemet er designet til selvverificering undervejs.
Du kan snart få AI-assistenter, der faktisk gennemfører lange opgaver uden at ændre planen halvvejs – fx når den booker din ferie eller styrer dine projekter.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.