Meta Muse giver hele sit filsystem væk
Udviklere hentede Ubuntu-filer, kildekode og intern dokumentation med et par prompter; Meta kalder det ikke et brud.
Få prompter åbnede hele rodfilsystemet
To udviklere, Peter James og Jonny L. Saunders, fik uafhængigt af hinanden Meta's AI Muse til at pakke hele sit rod-filsystem ud: Ubuntu-systemfiler, app-skabeloner og intern dokumentation.
Saunders skrev på Mastodon, at det var ”ekstremt let” at genskabe James' resultat, og at Muse havde ”næsten ingen modstand mod prompt-injektion” — altså mod forsøg på at overtale det gennem instruktioner skrevet i brugerens egen tekst.
The Verges egen test afslog først med henvisning til sikkerhed. Men i en ny session, efter lidt ros og nysgerrighed, skabte Muse kopier af /opt/hatch og /home/hatch, strippet for bl.a. SSH-nøgler, viste hele sin mappestruktur og tilbød at hente en undermappe efter valg.
- Korrekt bibliotekskode og kompilerede binærfiler, Muse genererede på få sekunder, ifølge Saunders
- hundreder af MB
- Offentliggjort i samme uge; Meta kalder den ene ikke et sikkerhedsbrud
- 2 sårbarheder
Hukommelse og natlig gennemgang ligger i tekst
Inde i filerne lå Markdown- og JSON-beskrivelser af Hatch — Metas interne navn for Muse — om hvordan forespørgsler behandles, data håndteres, og forbindelser oprettes til tjenester som Gmail.
James fandt, at Muse gemmer sin hukommelse i almindelige Markdown-filer og hver nat laver en ”dream”-gennemgang af samtalerne, som bygges ind i vejledning til senere samtaler.
Saunders så evner, der var hardkodede, bl.a. at afmelde abonnementer og at styre AI-agenter, der formerer sig ukontrolleret. Han gætter på, at baggrundsscripts er lavet med Claude — det er ubekræftet.
Han vurderede også, at Muse på få sekunder genererede ”hundreder af MB” af korrekt bibliotekskode og kompilerede binærfiler, hvilket taler imod, at svarene var opdigtede.
James fandt desuden referencer til Meta Home Link, som tilsyneladende giver adgang til enheder på et hjemmenetværk. Meta har ikke annonceret noget med det navn.
Meta afviser brud, varsler færre oplysninger
Meta kalder det ikke et sikkerhedsbrud. Muse kører i en vedvarende Linux-virtuel maskine pr. bruger, og talsmand Daniel Roberts sammenligner det med en laptop: eksport af virtuelle maskindata giver ingen privilegeret adgang til Metas infrastruktur eller til andres data.
Det er ugens andet hul i Muse. Sikkerhedsforsker Patrick Wardle fandt et udnyttelsesangreb, der kunne kapre AI-agenten, omdirigere transskribering og få adgang til en brugers Muse-konto. Meta udsendte hurtigt en hotfix.
Roberts siger, at Meta fortsat opdaterer produktet, så brugere måske vil se ændringer i, hvor meget information der er tilgængelig om deres virtuelle maskine.
Flere detaljer
- Muse kører i en vedvarende Linux-virtuel maskine pr. bruger
- De såkaldt sikre kopier var strippet for bl.a. SSH-nøgler
- Meta Home Link er ikke annonceret af Meta og kan udeblive
- Teorien om Claude som ophav til scripts er ubekræftet
Kilder:
The Verge AI → The Verge AI →
Genfortalt i egne ord af AI-nyheder.com · AI-genereret illustration · Tjek altid originalkilden, før du handler på vigtige oplysninger.