AI-nyhederClaude og Codex installerede skadelig kode hos Fortune 500
AI-værktøjer som Claude og Codex har installeret uautoriseret kode hos blandt andet Fortune 500-virksomheder. Forskere fandt 227 kommandoer, der pegede på ubeskyttede pakker.
Fundet i dokumenter
Forskere fra en israelsk startup scannede 6.214 hjemmesider hos store firmaer og forsvarskoncerner. De fandt 120 filer på forskellige sites, der opfordrede AI-værktøjer til at installere kode, som ingen ejer. Filerne lå i det nye llms.txt-format, der skal hjælpe AI med at forstå hjemmesider.
Værktøjerne følger bare med
Da forskerne selv registrerede nogle af de ubeskyttede pakkenavne, tog et Fortune 500-selskab kontakt inden for en time. I alt fik de svar fra flere store virksomheder. Sporene viste, at AI-værktøjerne Claude, Codex og Hermes stod bag installationerne, fordi de stoler blindt på, hvad de læser i dokumentationen.
Allerede aktivt angreb
På den legitime hjemmeside clerk.com fandt forskerne et eksempel på live malware. En snylter havde registreret et tomt pakkenavn og lagt skadelig kode ud. Clerk har siden fjernet problemet, men det viser, at truslen ikke kun er teoretisk. Der er endnu ingen meldinger om reelle infektioner.
Hvad nu?
Eksperter advarer om, at AI-værktøjer ikke kan skelne mellem ægte brugerinstruktioner og indhold fra upålidelige kilder. De behandler alt, hvad de læser, som en kommando. Det gør ondsindet kode til en stigende risiko, som de nuværende sikkerhedssystemer ikke fanger.
- Forskere fandt 120 miskonfigurerede llms.txt-filer på forskellige hjemmesider.
- Flere dusin virksomheder, inklusive Fortune 500-selskaber, udførte proof-of-concept-koden.
- Mindst ét site dirigerer besøgende, både mennesker og AI, til live malware.
- Eksempler på kommandoer var 'pip install' og 'npm install' med ikke-eksisterende pakker.
- På clerk.com var der et aktivt angreb med pakken 'npx clerk-next-fix-auth-protection'.
- Filerne kan være skrevet af mennesker eller AI, der ikke kan skelne ægte fra falsk.
Når du bruger AI-værktøjer i dit arbejde, kan de ubevidst installere skadelig kode fra dokumentation. Vær opmærksom på, hvad værktøjerne får adgang til at køre på dine systemer.
Kilder:
Ars Technica AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.