Altman, Amodei, Hassabis og Musk vil bremse AI
Fire topchefer støtter en tre-trins plan med tredjepartsrevision og global aftale, men kritikere kalder løftet et kartel og frygter sikkerhedsvask.
Fire topchefer vil sænke farten
I weekenden erklærede OpenAI-topchef Sam Altman, Anthropic-topchef Dario Amodei, Google DeepMind-medstifter Demis Hassabis og SpaceX-chef Elon Musk, at de vil 'pace the frontier'. Ifølge The Verge betyder det, at de groft sagt vil sænke farten i AI-udviklingen.
De støtter i hvert fald delvist et forslag om tredjepartsrevisorer, regulering af laboratorier i USA og en global aftale om opbremsning. Kritikere mente, at de ville stoppe konkurrenter, svække open source og undgå juridiske garantier. Nogle kaldte aftalen et kartel.
- Visninger på X af Jacob Coxons offentlige brev
- 170 millioner
- AI-lab-medarbejdere, der i juli underskrev brev om opbremsning
- Over 1.000
- Amodeis forslag: tredjepartsrevisorer, regulering og global aftale
- 3 trin
En tredelt plan uden bindende ord
Forslaget er beskrevet i et essay af Dario Amodei og har tre trin. Ifølge The Verge samler det krav, som AI-sikkerhedsfolk længe har stillet. Flere kilder er forsigtigt positive.
Apollo Researchs CEO Marius Hobbhahn kalder det 'en god idé' og siger, at det er noget af det bedste for sikkerhed i lang tid, hvis det faktisk sker. Redwood Researchs CEO Buck Shlegeris er forsigtigt optimistisk. Alle siger dog, at der mangler meget arbejde, før en mundtlig aftale bliver bindende.
Coxon-brev satte gang i debatten
Debatten er blevet skubbet frem af måneders advarsler. Ifølge The Verge har afsløringer om sværme af AI-agenter bag uautoriserede hackerangreb under næsen på Anthropic og OpenAI øget bekymringen.
Anthropic-forskeren Jacob Coxon skrev i et offentligt opsigelsesbrev, at folkene bag AI oprigtigt tror, det kan dræbe os alle inden årtiets udgang, og at hverken OpenAI eller Anthropic handler ansvarligt. Brevet er set mere end 170 millioner gange på X alene.
Kritikere frygter sikkerhedsvask
Kritikere frygter, at løftet bliver sikkerhedsvask: fine ord og papirarbejde uden reel opbremsning. Daniel Kokotajlo, tidligere OpenAI-medarbejder og leder af AI Futures Project, siger, at kravet længe er blevet rejst uden for selskaberne, og at topcheferne nu bøjer sig og tager æren.
Nick Reese fra New York University sammenligner med sociale mediers playbook, hvor virksomheder foreslog egne regler for at komme mindre gunstig lovgivning i forkøbet. Ifølge The Verge er væsentlig regulering usandsynlig under Trump, men en demokratisk administration efter næste valg kan ændre det.
Flere detaljer
- The Midas Projects Tyler Johnston kaldte aftalen et godt tegn.
- Tech Oversight Project mener, at regulering er afgørende for området.
- Jacob Coxon var forsker hos Anthropic, da han forlod selskabet.
- Elon Musk beskrives som SpaceX-chef i The Verge.
Kilder:
The Verge AI →
Genfortalt i egne ord af AI-nyheder.com · AI-genereret illustration · Tjek altid originalkilden, før du handler på vigtige oplysninger.