AI-nyhederAgentao giver AI-agenter styr på egne værktøjer
Forskere har bygget Agentao, et system der styrer og overvåger AI-agenter, når de bruger værktøjer som browsere og software – lokalt og sikkert.
Det nye system
Agentao er en ny platform fra forskere, der giver AI-agenter – altså programmer der selv kan udføre opgaver – et fast sæt regler, de skal følge, når de arbejder. Det kaldes 'governed runtime'. I stedet for at lade agenten gøre hvad som helst, kan systemet stoppe den, hvis den forsøger at overskride grænser eller lave fejl.
Hvorfor det betyder noget
AI-agenter bliver mere udbredte til at sende mails, booke møder eller hente data. Men de kan lave kritiske fejl, hvis de får frit spil. Agentao arbejder lokalt på din egen computer, så oplysningerne ikke sendes til skyen. Det giver både bedre privatliv og hurtigere reaktioner, når der er problemer.
Sådan virker det
Platformen bruger et slags 'Stoppoliti' omkring agenten, som holder øje med, hvad den laver. Hvis agenten for eksempel prøver at ændre vigtige filer eller skrive til ukendte steder, kan systemet blokere det med det samme. Det er bygget på open source-principper, så udviklere kan se og rette i koden.
- Agentao er designet til AI-agenter der bruger eksterne værktøjer som browsere og software.
- Systemet overvåger og styrer agentens handlinger i realtid.
- Arbejdet foregår lokalt på enheden, ikke i skyen.
- Formålet er at undgå skadelige fejl og beskytte brugerdata.
- Udviklerne har lagt vægt på åbenhed og kan deles med fællesskabet.
- Artiklen er publiceret på arXiv og henvender sig til teknikere.
Du kan få mere pålidelige AI-assistenter, der ikke smider dine private oplysninger ud i skyen, men holder sig til reglerne på din egen computer – og kan stoppes, hvis de gør noget forkert.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.