OpenAI- og Anthropic-bremser spænder ben for hackere
OpenAI's og Anthropics sikkerhedsbremser gør det sværere for sikkerhedsforskere at finde og fikse huller. Flere skifter til kinesiske modeller som GLM.
Problemet
Når sikkerhedsforskere vil teste AI-modeller for at finde sårbarheder, nægter mange modeller at hjælpe. De stopper, så snart de opdager, at arbejdet handler om sikkerhed. Det gør det svært at afgøre, om et fund er en reel fejl, der skal rettes.
Forskerne siger
Mark Dowd, en kendt sikkerhedsekspert, mener det er problematisk, at store tech-selskaber bestemmer, hvad der er sikkert. Chris Anley fra NCC Group sammenligner AI med en hammer: Du kan bygge et hus med den, men den er også et våben. Du kan ikke skille de to ting ad.
Løsningen
Flere forskere vælger at skifte til åbne AI-modeller, de kan køre lokalt på egen computer. Nogle bruger kinesiske modeller som GLM, fordi de ikke har nogen begrænsninger. Det bekymrer flere, da forskere dermed presses væk fra amerikansk styrede systemer til udenlandske.
Hvad nu?
Chris Thompson fra RemoteThreat efterlyser, at AI-selskaberne lemper adgangen for ansvarlige forskere. Ellers ender netværksforsvarerne med at stå svagere, mens de, der misbruger værktøjerne, ikke bliver holdt ansvarlige. Han mener, de nuværende begrænsninger gør mere skade end gavn.
- Den amerikanske regering pålagde eksportrestriktioner på Anthropics AI-modeller Mythos og Fable i juni 2026.
- Restriktionerne på Fable 5 og Mythos 5 er siden blevet ophævet.
- Anthropic og OpenAI har særlige verifikationsprogrammer for sikkerhedsforskere, der vil have færre begrænsninger.
- Sikkerhedsforskeren Chris Anley siger, at AI-modeller nægter at hjælpe med at udnytte fejl, selv når formålet er forsvar.
- Flere forskere skifter til kinesiske open source-modeller som GLM på grund af restriktioner.
- En anonym forsker siger, at hans arbejdsgiver ikke er godkendt til Anthropics program, så værktøjet er ubrugeligt til sikkerhedsarbejde.
- Chris Thompson siger, at forsvarere bruger tid på at forhandle med modellen i stedet for at arbejde på sikkerhed.
Du betaler prisen når sikkerhedshuller ikke bliver opdaget, fordi AI-værktøjer nægter at hjælpe dem, der skal fikse dem.
Kilder:
TechCrunch AI →
Genfortalt i egne ord af AI-nyheder.com · AI-genereret illustration · Tjek altid originalkilden, før du handler på vigtige oplysninger.