AI-nyhederAI-orm spreder sig selv gennem Word-dokumenter
Forskere har vist, hvordan skjulte instruktioner i dokumenter kan få Microsofts Copilot til at manipulere rapporter og sprede angrebet videre.
Sådan virker angrebet
En angriber gemmer instruktioner i et dokument, fx med hvid tekst på hvid baggrund. Når en medarbejder bruger dokumentet som kilde i Copilot for Word, læser Copilot de skjulte instruktioner og ændrer fx tal i rapporten. Samtidig kopieres instruktionerne videre til det nye dokument, som dermed bliver bærer af angrebet.
Spreder sig ukontrolleret
Angrebet kan fortsætte, uden at angriberen er involveret. Hvis en kollega senere bruger den manipulerede rapport som kilde, aktiveres instruktionerne igen og ændrer nye dokumenter. På den måde kan ondsindede dokumenter sprede sig gennem normale arbejdsgange i virksomheder, der bruger Microsoft 365.
Ikke lukket endnu
Forskeren har samarbejdet med Microsoft i 144 dage om at lukke hullet, men har valgt at offentliggøre det, fordi der endnu ikke findes en robust løsning. Selv en opgradering af modellen lukkede ikke problemet. Angriberen behøver ikke adgang til ofrets Microsoft 365-system - kun at dele et ondsindet dokument.
Hvad du bør vide
Angrebet rammer både 'magic pen' og 'Edit with Copilot' i Word. Det udnytter, at Copilot læser alle vedhæftede dokumenter og behandler deres indhold som pålidelige. Forskeren opfordrer virksomheder til at behandle dokumenter fra eksterne kilder med forsigtighed, når de bruges sammen med AI-værktøjer.
- Angriberen gemmer instruktioner som hvid tekst på hvid baggrund i dokumenter.
- Copilot læser al tekst uanset formatering og kan ikke se forskel på instruktion og indhold.
- Angrebet kan ændre tal i finansielle rapporter uden at brugeren opdager det.
- Ondsindede dokumenter kan spredes via SharePoint, Teams, Outlook og andre delefunktioner.
- Forskeren har demonstreret angrebet i to faser: etablering og selvspredning.
- Microsoft har fået reproduktionsinstruktioner og proof-of-concept-prompter, men hullet er ikke lukket.
Du risikerer, at dokumenter, du henter fra nettet eller modtager, kan ændre dine rapporter og sprede skjulte instruktioner videre, uden at du opdager det.
Kilder:
Hacker News: AI →
Genfortalt i egne ord af AI-nyheder.com · AI-genereret illustration · Tjek altid originalkilden, før du handler på vigtige oplysninger.