AI-nyhederSpammere gemmer tekst med usynlige Unicode-tegn
Spammere bruger usynlige Unicode-tegn, kaldet ASCII-smugling, til at snyde spamfiltre og AI-systemer. Microsoft ser 2,5 millioner daglige fund.
Teknikken
ASCII-smugling bruger et særligt Unicode-område med 128 tegn, der spejler det normale alfabet. Tegnene er synlige for computere, men næsten usynlige for mennesker. Teknikken blev først kendt til at skjule ondsindede instruktioner mod AI-assistenter, men nu bruger spammere den til at skjule ord som 'funding' for filtre.
Eksplosiv vækst
I februar steg antallet af fundne ASCII-smugling-signaturer hos Microsoft fra omkring 21.000 om dagen til mere end 1,3 millioner på én dag. Fire dage senere var tallet oppe på 2,5 millioner daglige fund. Mængden holdt sig høj i flere måneder, indtil den faldt kraftigt i midten af maj.
Hvorfor virker det?
Spamfiltre, der bruger machine learning, deler tekster op i små bidder kaldet tokens. Indsætter man et usynligt Unicode-tegn i midten af et ord, kan filteret ikke længere genkende ordet og deler det op i mærkelige stumper. Modtageren ser derimod et helt normalt ord, fordi tegnet er usynligt.
Ikke nyt trick
At camouflere tekst for at snyde filtre er ikke nyt. Spammere har i årtier brugt nul-bredde-mellemrum og andre skjulte tegn. Men ASCII-smugling er blevet populært, fordi mange nyere filtre stadig ikke er bygget til at opdage netop disse Unicode-tegn. Microsoft har nu udgivet råd til udviklere om, hvordan man bedre beskytter sig.
- Teknikken bruger Unicode-tegn, der er usynlige for mennesker, men læsbare for computere.
- Oprindeligt brugt til at skjule AI-angreb kaldet prompt injections.
- Spammere skjuler ord som 'funding' for at undgå spamfiltre.
- Filtre, der bruger machine learning, kan overse angrebet uden billedgenkendelse.
- Microsoft opdagede stigningen i februar og så et fald i midten af maj.
Du kan modtage spam, der ligner normal post, fordi filtrene ikke kan se de skjulte tegn - din mailudbyder skal opdatere systemerne for at fange det.
Kilder:
Ars Technica AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.