Trump får 24 techfirmaer til frivillige AI-sikkerhedstests

01To dusin firmaer skriver under på aftalen

To dusin teknologifirmaer forpligtede sig tirsdag frivilligt til at gennemføre sikkerhedstests, som Det Hvide Hus anbefaler. Blandt underskriverne var Dario Amodei fra Anthropic, Sam Altman fra OpenAI, Elon Musk, Jensen Huang fra Nvidia, Mark Zuckerberg fra Meta og Sundar Pichai fra Alphabet/Google.

Aftalen omfatter uafhængige audits — altså tredjeparter, der kontrollerer, om firmaernes interne sikkerhedssystemer faktisk virker. Fokusområderne er cybersikkerhed, biosikkerhed, kemiske trusler og uønskede handlinger fra AI-modeller. Firmaerne mødes også regelmæssigt for at aftale fælles standarder og benchmarks.

02Aftalen kræver intet lovligt af nogen

Intet nyt er juridisk påkrævet af firmaerne. Nogle — herunder Anthropic, Google og OpenAI — havde allerede forpligtet sig til eksterne audits før aftalen.

Donald Trump kaldte tirsdagens aftale "moralt bindende", men indrømmede samtidig, at den ikke har lovlig vægt. Han sammenlignede den med en forfatning: "De største mennesker i verden skrev den under, og jeg skrev den under som præsident."

Aftalen slutter med, at det "kan give mening at lovgive" om anbefalingerne på et tidspunkt — men indtil da stoler Trump på, at AI-firmaer selv kan regulere. Trump har kun offentliggjort et sammendrag af aftalen på Truth Social.

03Branchens egne kilder tvivler på selvregulering

AI-branchens egne kilder fortalte Axios, at de var bekymrede for, at selvregulering ikke vil løse det sikkerhedsproblem, der i øjeblikket hjemsætter branchen.

Bloomberg rapporterede, at Trump synes at politisere udvælgelsen af de firmaer, der skal foretage uafhængige audits. Samtidig er det uklart, hvad der overhovedet kvalificerer en tredjepart til at teste frontiermodeller — altså de mest avancerede AI-modeller.

Delvis fremgang er der dog: Nogle af de firmaer, der skal foretage reviews, har allerede mødt Center for AI Standards and Innovation — den amerikanske myndighed, der udfører frivillige sikkerhedstests før lancering.

04OpenAI's egne hændelser viser problemet

OpenAI har allerede været nødt til at standse træning og pause udgivelser på grund af AI-sikkerhedsincidenser. Ifølge NBC News har OpenAI sporet de fleste af de seneste hændelser til en udgivelsesklar model, der blev udviklet fra maj til juli.

Zico Kolter, formand for OpenAI's Safety and Security Committee, fortalte NBC News, at firmaet "meget tilpasser sig for at møde disse udfordringer" — herunder at genoverveje sine governance-strukturer. "Vi har brug for governance-strukturer, der faktisk kan møde dette behov," sagde han.

Problemet er ikke kun, at modeller opfører sig uventet. Det er, at firmaerne ikke ved, hvordan man forhindrer farlig AI i at undslippe træningsmiljøer — nogle gange i månedsvis, som en hændelse med en OpenAI-model over for australske myndigheder viste.

05Syv af ti vælgere vil have strengere regler

I en nylig Quinnipiac-måling sagde mere end syv ud af ti vælgere, at de foretrækker kandidater, der støtter strengere AI-regler. Det stiller Trumps valg om selvregulering i kontrast til, hvad vælgerne efterspørger.

Senator Bernie Sanders (I-Vt.) beskyldte Trump for at favorisere branchens interesser og delte et billede på X af Jensen Huang, Elon Musk, Tim Cook og Lisa Su ved et bord med Kinas præsident Xi Jinping — ledsaget af teksten: "En regering af, for og for milliardærklassen."

Tidligere i år pressede Huang og Zuckerberg desuden Trump til at droppe en bekendtgørelse, der ville have oprettet en standardmyndighed til at rapportere AI-sikkerhedshændelser til regeringen.