Newsom sætter skub i arbejdet med AI-nødstop
Californiens guvernør sætter eksperter i gang med at undersøge, hvordan delstaten kan kræve verificerede nødstop og uafhængige revisioner af avancerede AI-modeller.
Eksperter skal svare inden to måneder
Guvernør Gavin Newsom underskrev fredag en instruks, der skal stramme Californiens regler for AI. Ordren pålægger delstaten at samle en gruppe eksperter, som inden for to måneder skal anbefale, hvordan AI-sikkerheden kan styrkes i delstatsloven.
Gruppen skal komme med forslag til, hvordan delstaten kan stille krav til de virksomheder, der bygger de mest avancerede AI-modeller, også kaldet frontmodeller.
- Tidligere Anthropic-forsker Jacob Coxons vurdering i et opslag af risikoen for, at AI "kunne dræbe alle mennesker" inden for ti år
- Mere end 10 pct.
- Frist for ekspertgruppens anbefalinger om skærpet AI-sikkerhed i delstatsloven
- 2 måneder
Krav om nødstop og faste revisioner
Ordren peger på flere konkrete krav, gruppen skal vurdere. AI-virksomheder kan blive pålagt at have uafhængige kontrolgrupper fysisk til stede for løbende revision. Deres åbenhedsrapporter og risikovurderinger kan skulle leve op til uafhængige revisorers standarder.
Gruppen skal også undersøge et nødstop, som regelmæssigt verificeres for at virke. Og virksomhederne kan blive forpligtet til at indberette "hændelser med tab af kontrol" som kritiske sikkerhedshændelser. Kilden nævner OpenAI-angrebet på Hugging Face som eksempel.
To vedtagne AI-love skal køre hurtigere
Ordren beder samtidig et delstatsagentur om at fremskynde arbejdet med to love, Newsom allerede har underskrevet. Den ene skaber en ramme, hvor uafhængige verifikatorer kan vurdere AI-sikkerhed. Den anden opretter et register over AI-revisorer i delstaten.
Lille håb om handling i Washington
I Washington er der ifølge The Verge lille håb om en lov af betydning. Repræsentanternes Hus holder pause til november, og midtvejsvalget gør det også usandsynligt, at Senatet rykker.
Baggrunden er blandt andet et opslag fra Jacob Coxon, tidligere forsker hos Anthropic, der advarede om mere end 10 procents risiko for, at AI "kunne dræbe alle mennesker" inden for ti år.
Newsom opfordrer Kongressen og præsident Donald Trump til at gennemgå og vedtage delstatens rammeværk og bruge den som et gulv, ikke et loft. Trump har selv sagt, at AI kun har brug for "en STÆRK OG SMART (høj IQ!) præsident" som kontrol, og at USA har det i rigt mål.
Flere detaljer
- Newsom kalder den føderale indsats for AI-tilsyn en "absolut fiasko" og siger, at AI-topchefer selv beder om regulering.
- Newsom luftede onsdag i et interview med Politico at indkalde lovgiverne til en særlig samling om AI.
Kilder:
The Verge AI →
Genfortalt i egne ord af AI-nyheder.com · AI-genereret illustration · Tjek altid originalkilden, før du handler på vigtige oplysninger.