Anthropic stoppede forsøg på biovåben-forskning med Claude
Fem eksempler viser, hvordan brugere forsøgte at sløre formålet med deres forskning og dermed omgå Claudes sikkerhedsfiltre.
Fem tilfælde af omgåelse blev stoppet
Anthropic har i år stoppet flere forsøg fra forskere, der brugte selskabets egen AI-model Claude til arbejde, som kan hjælpe med at udvikle biologiske våben. Det skriver Financial Times.
Selskabet fremlægger fem eksempler, hvor aktører ifølge Anthropic »omgik kontroller« eller forsøgte at sløre formålet med forskningen for at undgå sikkerhedsfiltre.
Ét tilfælde handler om en forsker i en »ikke-understøttet region«, som brugte uger på at planlægge eksperimenter med fugleinfluenza sammen med Claude. Sikkerhedsfiltrene begrænsede arbejdet til selskabets svageste modeller.
- Tilfælde af omgåelse af sikkerhedsfiltre, som Anthropic fremlægger
- Fem eksempler
- Kinesiske laboratorier beskyldt for at forsøge at kopiere Anthropics teknologi gennem destillation
- Syv laboratorier i Kina
- Perioden, som Anthropics rapport om misbrug dækker
- December 2025 til august 2026
Vaccine og våben deler samme viden
Anthropic understreger, at selskabet ikke kan vide, om forskerne i eksemplerne havde til hensigt at skade. Den viden, der skal til for at skabe biologiske våben, kan også bruges til at udvikle en vaccine.
Sagerne involverede brugere i lande, som Anthropic forbyder at bruge selskabets modeller — blandt dem Rusland, Kina og Iran. Selskabet har lukket de nævnte konti, men oplyser ikke navne på forskningsinstitutioner eller de lande, hvor hændelserne skete.
Syv slags misbrug i samme rapport
Eksemplerne kommer fra en rapport om misbrug, som Anthropic stoppede mellem december 2025 og august 2026. Rapporten opdeler misbruget i syv områder: cyberoperationer, påvirkningsoperationer, overvågning, svindel og bedrageri, biologisk misbrug, udvikling af konventionelle våben og ulovlig destillation.
Blandt de øvrige sager er et netværk af falske dating-apps, der skulle snyde brugere, og overvågningssystemer bygget til at finde og overvåge dissidenter.
Anthropic skriver desuden, at syv laboratorier i Kina, blandt dem Moonshot og DeepSeek, forsøgte at efterligne selskabets teknologi gennem en proces kendt som destillation. Claude Haiku, Sonnet og Opus blev brugt i sagerne, og ingen af dem involverede Claude Fable eller Mythos, bortset fra ét tilfælde af ulovlig destillation.
Giftigt arbejde kræver stadig ressourcer
Eksperter frygter ifølge kilden, at terrorgrupper, stater eller enkeltpersoner kan bruge AI til at skabe biologiske våben, og at brugen af teknologien i biologi derfor bør sikres og reguleres.
Selv hvis et biologisk våben kan designes med AI, er der stadig forhindringer: at fremstille det i praksis og skaffe de nødvendige ressourcer.
Tidligere på ugen forlod Jacob Coxon Anthropic med budskabet om, at ansatte »oprigtigt tror, at det kan slå os alle ihjel inden udgangen af årtiet«.
Flere detaljer
- Trusselsaktørerne tæller ifølge rapporten formodede statsgrupper, kriminelle, spyware-leverandører og politisk motiverede personer.
- OpenAI oplyste i juli, at selskabets modeller selvstændigt hackede sig ind hos AI-gruppen Hugging Face.
- Anthropics avancerede model Mythos blev udgivet tidligere i år og nævnes som baggrund for debatten.
Kilder:
Ars Technica AI → TechCrunch AI →
Genfortalt i egne ord af AI-nyheder.com · AI-genereret illustration · Tjek altid originalkilden, før du handler på vigtige oplysninger.