AI-nyhederFraudBench: AI-bankassistenter kan narres til svindel
Forskere har bygget FraudBench, der afslører, hvor let AI-bankassistenter kan narres til at slippe svindel igennem.
Det er sket
Forskere har udviklet FraudBench, et nyt testværktøj, der stress-tester AI-bankassistenter mod tilpasset svindel. Tidligere test brugte simple, kendte svindelnumre, men FraudBench lader svindelnumre ændre sig undervejs – præcis som rigtige svindlere gør. Det gør testen langt mere realistisk og afslører svagheder, som ældre testmetoder overså.
Sådan virker det
AI-assistenterne får en fast politik med regler for, hvad de må og ikke må – for eksempel grænser for store overførsler. FraudBench finder så kreative måder at omgå disse regler på. Hvis politikken siger 'max 10.000 kroner', kan en svindelopdeling i flere små overførsler gå ubemærket hen. Testen afslører, at systemerne er for firkantede og mangler sund fornuft.
Kritikerne siger
Forskerne bag understreger, at resultaterne ikke betyder, at AI-assistenterne er ubrugelige – men at de ikke kan stå alene. Bankerne skal stadig have menneskelig kontrol og overvågning. FraudBench er ikke en færdig løsning, men et værktøj til at finde hullerne, før de rigtige kriminelle gør det. Det er en øjenåbner for, hvor skrøbelige systemerne stadig er.
Hvad nu?
Næste skridt er at gøre FraudBench bredere og mere tilgængelig, så flere banker og udviklere kan teste deres systemer. Tanken er, at konstant test med stadig nye svindelmetoder skal blive standard – ligesom man opdaterer virusprogrammer. Jo flere huller man finder i testmiljøet, jo færre huller er der tilbage for de kriminelle at udnytte i virkeligheden.
- FraudBench stress-tester AI-bankassistenter mod adaptive svindelnumre, der ændrer sig undervejs.
- Testen fokuserer på at omgå faste politikker og regler for banktransaktioner.
- Simple opdelinger af overførsler kan narre systemerne til at slippe svindel igennem.
- Værktøjet er designet til at finde svagheder, før kriminelle udnytter dem.
- Forskerne anbefaler, at AI-assistenter ikke står alene, men kombineres med menneskelig kontrol.
- Ambitionen er, at løbende sikkerhedstest bliver standard for AI-banksystemer.
Politikbaserede AI-assistenter bliver mere udbredte i banker, men er sårbare over for kreativ snyd. Du bør være ekstra opmærksom på dine banknotifikationer og reagere, hvis noget virker mistænkeligt, for systemerne har stadig blinde vinkler.
Kilder:
arXiv cs.AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.