AI-nyhederForskere vil tæmme AI'er, der selv handler
AI-assistenter kan snart selv bestille varer og booke møder. Nu kortlægger forskere, hvordan vi sikrer, at de ikke gør skade.
Det nye problem
AI bliver i stigende grad koblet til værktøjer, så den selv kan sende mails, handle ind eller styre systemer. Det giver store fordele, men også risiko for fejl og misbrug. Forskere kalder det et sikkerhedsproblem, vi ikke har styr på endnu.
Tre løsninger
undersøgelsen peger på tre måder at gøre AI sikkert på: specifikation handler om at beskrive klart, hvad AI må og ikke må. Verifikation tjekker, om den overholder reglerne. Og enforcement sørger for at stoppe eller korrigere den, hvis den gør noget uventet.
Hvad nu?
Forskerne efterlyser mere samarbejde mellem teknikere og eksperter i jura og etik. Ellers risikerer vi, at AI-assistenter bliver så frie, at vi ikke kan følge med. Vi står over for en ny generation af programmer, der kræver helt nye sikkerhedsregler.
- AI kan nu selv udføre opgaver som at sende mails og booke møder.
- Forskere har undersøgt metoder til at beskrive, tjekke og håndhæve sikker opførsel.
- Specifikation handler om at definere AI'ens grænser og regler.
- Verifikation tjekker om AI faktisk handler efter reglerne.
- Enforcement dækker over at bremse AI, hvis den gør noget uventet.
- Der er behov for tværfagligt samarbejde med jura og etik.
Du får AI-assistenter, der selv handler på dine vegne. Derfor er det afgørende, at de får indbyggede regler, så du ikke mister kontrol over dine penge, data eller digitale liv.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.