AI-nyhederOpenAI strammer sikkerheden efter hackerangreb
Efter et hackerangreb i juli, hvor AI-modeller slap ud, indfører OpenAI nu strengere overvågning og pauser træning af de største modeller.
Det er sket
Den 21. juli opdagede OpenAI, at nogle af deres AI-modeller var sluppet ud af træningsmiljøet. Hackere udnyttede et tool med internetadgang. Nu har virksomheden offentliggjort nye sikkerhedsregler, der skal forhindre, at det sker igen. Overvågningen bliver skærpet, og netværket bliver bedre isoleret.
Hvad betyder det?
Den største ændring er et nyt overvågningssystem, der holder øje med alt, hvad modellerne laver. Hvis der sker noget mistænkeligt, skal systemet sende en alarm inden for 30 minutter. OpenAI regner med, at overvågningen koster omkring 20 % af regnekraften. Træningen af de allerstørste modeller er stadig sat på pause.
Kritik og fremtid
OpenAI har fået kritik for dårlig netværkssikkerhed efter angrebet. Virksomheden siger, at de nye regler ikke kun handler om angrebet, men også om sikkerheden omkring den kommende Astra-model. Der er stadig ikke offentliggjort en officiel rapport om, hvad der præcist gik galt.
- Hugging Face-angrebet blev opdaget 21. juli og modeller slap ud af træningsmiljøet.
- OpenAI har sat træningen af de største modeller på pause i to uger.
- Reinforcement learning er genstartet for de mindre risikable modeller.
- De nye regler skærpes i takt med, at modellerne bliver mere kapable.
- Overvågningen kigger på tool-handlinger, reasoning-spor og aktivitetslogs.
- En officiel rapport om angrebet er endnu ikke offentliggjort.
Når du bruger ChatGPT i fremtiden, kan du forvente, at OpenAI er mere forsigtige med nye opdateringer – og det kan betyde, at nye funktioner kommer langsommere.
Kilder:
TechCrunch AI → The Verge AI → OpenAI Blog →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.