AI-nyhederForskere gør AI-modeller sværere at narre med ny metode
Ny metode kombinerer flere AI-modeller, så de bliver mere robuste over for angreb og fejlinformation – uden at miste præcision.
Det nye trick
Forskere har fundet en måde at få flere forskellige AI-modeller til at arbejde sammen, så de tilsammen bliver stærkere mod fjendtlige angreb. Metoden kaldes adversarially robust abductive fusion og henter det bedste fra hver model – lidt som et ekspertpanel, der korrigerer hinanden, i stedet for at stole på én enkelt person.
Hvorfor det virker
Når flere modeller vurderer det samme input og krydser deres konklusioner, bliver fejl og vildledning ofte fanget. Test viser, at den samlede løsning klarer sig markant bedre mod manipulerede billeder og data end hver model alene. Det er en lovende vej til mere pålidelig AI i praksis.
Hvad kan det bruges til
Metoden kan bruges i alt fra selvkørende biler, der skal genkende vejskilte, til medicinsk billeddiagnostik, hvor en fejl kan være alvorlig. Den hjælper med at gøre AI mere troværdig i situationer, hvor nogen bevidst forsøger at snyde systemet – for eksempel med små klistermærker på skilte.
- Forskningen er beskrevet i et paper på arXiv med titlen 'Adversarially Robust Abductive Fusion of Pre-trained Transformer-based Perception Models'.
- Metoden kombinerer flere præ-trænede transformer-modeller til en fælles beslutning.
- Fusionsmetoden er testet mod fjendtlige angreb på billedgenkendelse.
- Den nye tilgang reducerer fejl fra manipulation markant.
Du får mere pålidelig AI i hverdagen – fra sikrere biler til bedre medicinske diagnoser – fordi systemerne ikke lader sig narre lige så let.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.