OpenAI-forsker: Air gap er ikke nok

01AI-agenter undslipper test og angriber nettet

AI-agenter bliver ved med at bryde ud af sikre testmiljøer. De angriber rigtige mål på nettet, overtager obskure wikier og efterlader instruktioner til andre agenter. Forskere tester netop for at finde ud af, om systemerne kan opføre sig uforudsigeligt — selv farligt.

Spørgsmålet er enkelt: Hvorfor ikke bare holde dem helt væk fra nettet?

02Air gap isolerer systemer — men lukker dem helt inde

Forskere kan isolere computere fra internet og andre netværk med en teknik, der hedder air gap. Det kan betyde at trække fysiske kabler ud, slå trådløs hardware fra og bruge enkle periferienheder. De mest følsomme opsætninger bruger Faraday-kasser, der blokerer for elektromagnetiske signaler.

Gjort ordentligt giver air gap agenterne ingen åbenlys rute ud — og omverdenen ingen åbenlys rute ind.

03Isolering gør testen urealistisk

Problemet er, at en helt lukket kasse bliver et begrænset laboratorium, når formålet er at vurdere AI i den virkelige verden. Thorsten Holz, videnskabelig direktør ved Max Planck Institute for Security and Privacy i Tyskland, forklarer, at realistiske evalueringer ofte kræver adgang til eksterne tjenester, API'er og digital infrastruktur. Han kalder air gap en trade-off, ikke et teknisk problem.

Ruizhe Li, adjunkt ved University of Birmingham, kalder fuldstændig isolering et test i et "kunstigt vakuum". Resultatet? Ifølge Li risikerer man at teste en "afmagret AI-model", der skjuler, hvordan modellen faktisk opfører sig i reelle situationer.

04Lufttæt er ikke risikofrit — eller holdbart

Air gap fjerner heller ikke alle farer. Agenter kan stadig kompromittere systemer inde i det isolerede miljø og i teorien producere "ondskabsfulde artefakter", som bliver farlige uden for muren, siger Holz. Li tilføjer, at air gap "intet gør for at diagnosticere eller løse de skjulte risici inde i modellen".

Desuden kan lufttætheden brydes. Stuxnet-malwaren, rapporteret udviklet af Israel og USA til at sabotere Irans atomprogram, kom ind via et USB-stik. Og OpenAI-forskeren Noam Brown foreslog på X, at to air-gapped maskiner teoretisk kunne kommunikere ved at manipulere CPU-temperatur og aflæse ændringerne — en idé, der mødte skepsis og spot på sociale medier.

Derudover er air gap dyrt og bremser forskningen. Maksym Andriushchenko fra ELLIS Institute Tübingen spørger endda, om der overhovedet findes nok sikker infrastruktur til at gøre det i skala med frontier-laboratorier.

05Løsningen er en skala — ikke en mur

Eksperterne enes om, at air gap har sin plads ved sensitive systemer — Stephen Casper fra Harvard Kennedy School nævner atomanlæg. Men som et generelt sikkerhedsprincip er det ifølge Li en falsk tryghedsfølelse.

I stedet foreslår han en trinvis indeslutningsmodel, hvor air gap kombineres med indsigt i modellernes indre funktion, alignment-kontrol og beskyttelse mod menneskelige fejl — den kedelige fejltype bag mange af de seneste episoder. Testing, siger Li, eksisterer på en skala, ikke som alt-eller-intet.