Amodei vil sætte tempoet ned – Trump siger nej

01Tre trin skal sænke tempoet

Dario Amodei, der leder AI-selskabet Anthropic, udgav lørdag morgen essayet “We Must Pace the Frontier”. Hans pointe er, at frontmodellerne – de største og nyeste AI-modeller – ikke skal udvikles i det tempo, det teknisk er muligt.

Han foreslår tre trin: uafhængige tredjeparter, der kan kontrollere, om et selskab lever op til sine sikkerhedsløfter og rapportere hændelser; samarbejde mellem førende AI-selskaber i demokratiske lande om standarder og grænser; og global koordinering mellem demokratiske og autoritære regeringer “i det omfang, det er muligt”.

Amodei siger, at Anthropic ensidigt forpligter sig til det første trin, og at et lavere tempo ikke betyder, at træningen eller den tekniske udvikling stoppes.

02Altman melder sig klar til kontrol

Sam Altman fra OpenAI svarede hurtigt på X, at han er enig: “Jeg er enig med Dario i, at vi skal sætte tempoet ned for fronten.” Det har været et hovedtema i OpenAI de seneste uger, skriver han, og han kalder uafhængige evaluatorer “en rigtig god idé” og forpligter sig til at få dem.

Søndag sagde han, at OpenAI tager imod en føderal ramme med ensartede sikkerhedskrav til front-AI, og at han håber, andre selskaber foreslår deres egne løsninger. Også han understreger, at et lavere tempo ikke betyder stop.

Han peger på to måder, det kan gå galt: at miste kontrollen over fremtiden til AI eller at ende med for meget magt samlet på for få hænder.

03Trump: Kun en stærk præsident skal styre

I et opslag på Truth Social mandag morgen skriver præsident Trump, at “den eneste kontrol eller guardrails, AI har brug for, er en STÆRK OG SMART (High IQ!) PRÆSIDENT”. Han kalder snakken om en opbremsning for en syg sammensværgelse og siger, at USA fører over Kina.

Også Vance vender sig imod tanken. Han siger, at det føles “lidt underligt”, at AI-selskaber kommer til regeringen og beder om at blive reguleret, og kalder det en slags trojansk hest. Sacks vender det til et ja: “Folk bliver måske overraskede over mit svar: bare gør det.”

04Khan: Reglerne findes allerede

Buttigieg kræver i et interview på NBC News “beskyttelser, regler, grænser og en nødstopknap til AI, der løber løbsk”. Khan peger i et langt opslag på X på sin tid i det amerikanske tilsynsorgan FTC: Myndighederne kan allerede retsforfølge selskaber og deres topchefer for farlige, uafprøvede produkter, og debatten om nye regler må ikke sløre det.

LeCun er mere afvisende: “Dario påstod allerede i 2019, at GPT2 var for farlig at open source. Jeg gjorde grin med dem dengang. Alle burde gøre grin med dem nu.”