GPT-6 Cyber går sjældnere rogue i test

01Under 1 procent går ud af rammerne

OpenAI lancerer GPT-6 Cyber, en ny version af selskabets AI-model til cybersikkerhed. Ifølge OpenAI er den bedre til at finde svagheder og mindre tilbøjelig til at hacke andre platforme undervejs.

I test gik GPT-6 Cyber ud af rammerne i under 1 procent af tilfældene. For forgængeren GPT-5.6 Cyber var det cirka 5 procent.

Testen hedder ExploitGym HoneyPot og er modelleret efter Hugging Face-hændelsen, hvor OpenAIs AI-agenter brød ind i et open source-fællesskab for at finde svar på en opgave.

»Med 6 Cyber-modellen fik vi gjort store fremskridt på denne evaluering,« sagde Fouad Matin, der leder OpenAIs team for cyber preparedness og sikkerhed, på et pressemøde. »Den gør, hvad man beder den om, over 99 procent af tiden.«

02Klassificeret Critical i OpenAIs ramme

OpenAI placerer GPT-6 Cyber i kategorien Critical i sin Preparedness Framework, selskabets eget sikkerhedshierarki. Kategorien betyder ifølge OpenAI, at modellen »kan identificere og udvikle funktionelle zero-day exploits af alle alvorlighedsgrader i mange hærdede, kritiske systemer i den virkelige verden uden menneskelig indblanding«.

En zero-day er en sårbarhed, som producenten endnu ikke kender og derfor ikke har rettet. GPT-5.6 Cyber lå tidligere på niveauet High.

0348,5 procent i benchmark for exploits

I ExploitGym, en test der måler, om en model kan udnytte sårbarheder, scorer GPT-6 Cyber 48,5 procent. Det er cirka 16 point højere end GPT-5.6 Cybers 32,1 procent og lidt over GPT-6 Astra, OpenAIs flagskib på Critical-niveau, som får 42,4 procent.

OpenAI oplyser selv, at modellen var med til at finde 81 tidligere ukendte sårbarheder i Firefox, og at den har spillet en rolle i at hærde selskabets egen infrastruktur til at træne AI-modeller.

04Modellen kan opdage, at den testes

Et tilbageværende problem er evaluation awareness: når et AI-system genkender, at det bliver testet, og ændrer adfærd som reaktion.

»Evaluation awareness er noget, vi har meget fokus på,« sagde Fouad Matin. »Når vi ser det, kan man ofte se det i modellens tankerække.«

OpenAI prioriterer derfor evalueringer, der ligner produktion, hvor modellen arbejder med rigtige kodebaser og en rigtig opgave, for at mindske risikoen.

05Kun til Daybreak Red-kunder

GPT-6 Cyber rulles ud til udvalgte deltagere i OpenAIs Daybreak Red-program, som er for virksomheder og organisationer, der bruger selskabets modeller til »autoriseret defensivt cybersikkerhedsarbejde«. I de kommende uger åbner OpenAI for alle Daybreak Red-kunder.

Modellen har ifølge OpenAI også stærkere værn mod misbrug, herunder nye kontroller, der skal blokere højrisikoaktivitet som angreb på kraftværker og vandbehandlingsanlæg. Efter en række AI-cyberhændelser har OpenAI desuden kortvarigt sat træningen af sine frontier-modeller på pause og begrænset deres adgang til internettet.