AI-nyhederAI-assistenter får sikkerhedscertifikat med SafeCommit
Forskere har udviklet SafeCommit, der certificerer, hvornår AI med hukommelse trygt kan agere.
Det nye værktøj
Forskere har skabt SafeCommit, et system der afgør, hvornår en AI-assistent med adgang til tidligere samtaler sikkert må handle på egen hånd. Det er et slags sikkerhedsstempel, der fortæller, om AI'en har nok vished til at gøre noget, uden at den spørger brugeren.
Hvorfor det betyder noget
Mange AI-chatbots husker tidligere beskeder, men de kan ikke altid vide, om de har forstået brugerens ønske korrekt. SafeCommit giver et klart signal, når AI'en er sikker, og dermed mindsker risikoen for fejl i følsomme opgaver som økonomi eller sundhed.
Sådan virker det
Værktøjet bygger på en matematisk metode, der sammenligner AI'ens hukommelse med det, brugeren faktisk har sagt. Hvis der er tvivl, fraråder den handling. Det er en form for garanti, der kan indbygges i fremtidige AI-systemer.
- SafeCommit er udviklet af Mayur Akewar og Ravi Ranjan.
- Systemet certificerer, hvornår AI sikkert må handle.
- Det er designet til AI med hukommelse og kontekst.
- Værktøjet bruger matematiske beviser for sikkerhed.
- Målet er at modvirke fejl i dialog-baserede systemer.
Du får mere pålidelige AI-assistenter, der sjældnere gør noget forkert, og du kan trygt overlade flere opgaver til dem.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.