OpenAI-medarbejder: Modelhop overraskede sikkerhedsteamet
Sikkerhedsmedarbejder beskriver, hvordan modellernes evner sprang frem hurtigere, end kultur og beredskab kunne følge med.
Modelhop kom hurtigt og uventet
En sikkerhedsmedarbejder fra OpenAI siger, at selskabets modeller pludseligt sprang frem i evner knyttet til "cyber", "swarming" – mange aktører, der samarbejder – og "message boards".
At sige, hvor overraskede de var, er ifølge medarbejderen en underdrivelse. Springene kom hurtigt i forbindelse med hændelser, som kilden kalder "the incidents" uden at uddybe dem.
Citatet er samlet af Simon Willison og lagt ud 28. september 2026. Hvornår udtalelsen faldt, fremgår ikke.
Sikkerhedskultur kan ikke hoppe med
Sikkerhed handler ikke kun om at hærdne de systemer, der er i spil, forklarer medarbejderen. Det tager tid at indprægne det i en virksomheds kultur, og selve medarbejderne skal ændre sig og udvikle sig med det.
Netop derfor blev de hurtige springskraft, som han udtrykker det, "et ekstremt svært problem": en kultur, der skal bygges over år, kan ikke følge med et spring, der kommer på et øjeblik.
Han beder organisationer teste beredskabet
Medarbejderen, der arbejder med agent-sikkerhed hos OpenAI, opfordrer nu folk verden over til at stille deres egen organisation spørgsmål: Kan den håndtere et uventet spring i AI-evner, og er folk, systemer og processer robuste over for overraskelser?
Dernæst: Ved teamene, hvad de skal gøre, når noget går galt, findes der et beredskab til hændelser, og har man den rette kommunikation og de rigtige beskeder?
Sidst: Er de rigtige folk klar til at træde til, når evnerne springer?
Flere detaljer
- Medarbejderens identitet er bekræftet af The Informations Rocket Drew.
- Willison gengiver citatet med en udeladelse markeret ved [...]
- Udtrykket "the incidents" nævnes uden nærmere beskrivelse i kilden.
Kilder:
Simon Willison AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.