OpenAI bekræfter sikkerhedssamtaler med Anthropic og Google
I uger har OpenAI, Anthropic og Google DeepMind drøftet AI-sikkerhed i fællesskab. Nu bekræfter OpenAI det – og bakker op om uafhængige kontrolorganer.
Bekræftelsen faldt i Washington
OpenAI har i flere uger drøftet AI-sikkerhed med rivalerne Anthropic og Google DeepMind. Det fortalte OpenAIs globale politikchef, Chris Lehane, til journalister tirsdag, og Bloomberg bragte nyheden først.
Lehane er i Washington for at arbejde med amerikanske lovgivere om de katastrofale risici, som avancerede AI-modeller kan udgøre. Indtil tirsdag kendte offentligheden kun til samarbejdet gennem medierapporter og antydninger i interviews.
Tredjeparter skal lukkes ind
Baggrunden er et essay fra Anthropics topchef, Dario Amodei, som udkom lørdag. Han opfordrer branchen til at samarbejde om at bremse udviklingen af frontier-modeller – de mest avancerede AI-modeller – for at undgå katastrofale risici.
OpenAIs Sam Altman, Googles Demis Hassabis og Elon Musk bakkede op. Altman sagde, at OpenAI vil følge Anthropic og lukke tredjeparts-evaluatorer ind i virksomheden for at overvåge sikkerheden.
Et standardorgan uden regeringen
Ifølge The Information arbejder de tre selskaber på at skabe et standardorgan for AI-branchen. Altman har efter sigende sagt til sine medarbejdere, at det skal ske uden støtte fra den amerikanske regering.
Hassabis har selv efterlyst et sådant organ. I juli opfordrede han USA til at oprette en AI-vagt med magt til at screene verdens mest avancerede modeller og koordinere en brancheomspændende opbremsning, hvis farerne tog til.
Antitrust og modstand fra Trump
Altman og andre har påpeget, at den slags koordinering kan bringe selskaberne i konflikt med antitrustlovgivningen, hvis den vurderes at dæmpe konkurrencen. Amodei foreslog en snæver dispensation fra regeringen; Lehane siger ifølge mediet, at selskaberne ikke har brug for en.
Modstanden er tydelig. Præsident Trump har kaldt sikkerhedsbekymringer for en svindel og advaret om, at en opbremsning vil give Kina et forspring. Hans AI-rådgiver David Sacks kalder frygten for eksistentielle risici overdrevet.
På samme møde tirsdag sagde Lehane, at OpenAI støtter et forslag i FRONTIER Act om at tvinge de førende laboratorier til at lukke »uafhængige verifikationsorganisationer« ind.
Flere detaljer
- Amodeis essay udkom lørdag; Lehane udtalte sig tirsdag.
- Altman har i et interview med Fortune antydet private drøftelser med andre AI-ledere.
- TechCrunch har forsøgt at få kommentarer fra Anthropic, Google og OpenAI.
Kilder:
TechCrunch AI →
Genfortalt i egne ord af AI-nyheder.com · AI-genereret illustration · Tjek altid originalkilden, før du handler på vigtige oplysninger.