AI-angreb der smitter som en virus
Forskere har opdaget, at AI'en i Word kan sprede skjulte instruktioner mellem dokumenter som en orm.
Sådan sniger angrebet sig ind
En angriber gemmer skjulte instruktioner i et Word-dokument i hvid tekst på hvid baggrund. Når du bruger Copilot til at skrive et dokument baseret på det, læser AI'en instruktionerne - selvom du ikke kan se dem - og udfører dem. Den kopierer også angrebet videre til dokumentet du arbejder på.
Smitter mellem kolleger
Forestil dig at du henter en markedsanalyse fra et kompromitteret websted. Copilot bruger den til at skrive en rapport - og ændrer i smug tal i regnearket. Når du deler rapporten med en kollega, og de bruger den som kilde, aktiveres angrebet igen. Det spreder sig som en virus på kontoret, uden at gerningsstedet bliver brugt igen.
Sikkerhedshullet er ikke lukket
Microsoft har haft 144 dage til at lappe fejlen, men to forsøg - inklusiv en opdatering af AI-modellen - har ikke stoppet problemet. Forskere bag opdagelsen har derfor valgt at offentliggøre den, så virksomheder kan beskytte sig. Angriberen behøver ikke adgang til din Microsoft 365-konto - kun at du åbner et ondsindet dokument.
Hvad gør du?
Sikkerhedsforskere anbefaler at du ikke vedhæfter dokumenter fra ukendte kilder i Copilot. Vær særligt forsigtig med filer delt via SharePoint, Teams eller mail. Selv tilsyneladende uskyldige analyser fra troværdige sider kan være kompromitteret. Hold øje med uventede ændringer i dine tekster og tal.
- Skjulte instruktioner gemmes som hvid tekst på hvid baggrund – usynligt for brugeren.
- Copilot for Word læser alt tekst i vedhæftede dokumenter, også usynlig tekst.
- Angrebet kræver kun at offeret åbner et ondsindet dokument – ingen adgang til Microsoft-konto.
- Test viser at to forsøg på at lukke sikkerhedshullet har fejlet.
- Angrebet virker både med 'magisk pen'-funktionen og 'Rediger med Copilot'.
- Dokumenter kan sprede angrebet videre uden at den originale ondsindede fil er til stede.
- Forskerne offentliggør på klasseniveau for at advare organisationer.
Din tillid til dokumenter fra kolleger og kendte kilder kan misbruges til at manipulere rapporter og sprede angreb automatisk på dit kontor.
Kilder:
Hacker News: AI →
Genfortalt i egne ord af AI-nyheder.com · AI-genereret illustration · Tjek altid originalkilden, før du handler på vigtige oplysninger.