Amodei vil bremse AI og lukke kontrollører ind
Anthropic forpligter sig til at lukke uafhængige evaluatorer ind, og OpenAI vil følge efter. Bag forslaget ligger tre greb mod et hurtigere AI-kapløb.
Anthropic forpligter sig til at lukke kontrollører ind
Anthropic vil lade uafhængige evaluatorer fra organisationer som METR komme ind i virksomheden. Det skriver topchef Dario Amodei i et nyt blogindlæg, hvor han opfordrer branchen til at sænke tempoet i forbedringen af AI-modeller.
Han kalder det en ensidig forpligtelse fra Anthropic og opfordrer regeringer til at kræve, at andre førende selskaber gør det samme. OpenAIs topchef Sam Altman kalder ideen god og bekræfter, at OpenAI vil følge efter. Også Elon Musk fra SpaceX bakker op.
- Amodeis tidsramme for at brede USAs forspring over Kina med chip-eksportforbud og opgør med modeldestillation
- 3–5 år
Badges, skriveborde og adgang som interne
Konkret betyder forpligtelsen ifølge Amodei, at evaluatorerne får firmabadges, skriveborde og laptops. De får adgang, der stort set svarer til virksomhedens egne risikoteams — bortset fra oplysninger, som lov eller kontrakter kræver holdes tilbage.
Deres opgave er at kontrollere, at selskaberne faktisk holder løfterne om tempo og sikkerhed, og at sikkerhedshændelser bliver rapporteret. Amodei sammenligner dem med tilsynsførende, der sidder fast i bankernes lokaler.
To begivenheder ændrede Amodeis kurs
Amodei skriver, at to begivenheder overbeviste ham om at skifte kurs. Den ene er hacket mod OpenAI og HuggingFace. Den anden er, at AI udvikler sig markant hurtigere, især fordi modellerne i stigende grad kan bygge den næste generation af AI. Tempoet i forbedringen skal derfor ned, mener han.
Debatten blev skærpet i samme uge, da forskeren Jacob Coxon sagde, at han forlader Anthropic, fordi han mener, at selskaberne gambler med vores liv.
Fælles regler og samtaler med Kina
Amodeis andet forslag er fælles sikkerhedsstandarder og grænser for det ukontrollerede AI-kapløb mellem førende selskaber i demokratiske lande. Han erkender, at selskaberne frygter antitrust-sager, og foreslår derfor, at den amerikanske regering mægler eller udsteder en snæver undtagelse for sikkerhedssamtaler.
Det tredje forslag er global koordinering, hvor USA og allierede forsøger at tale med autoritære regeringer, herunder Kina. Amodei indrømmer, at der er klare grænser, men ser muligheder for at forbyde smalle, åbenlyst farlige anvendelser som AI til biologiske våben.
USA kan brede forspringet på 3–5 år
For at imødegå argumentet om kinesisk AI-dominans peger han på chip-eksportforbud og et opgør med modeldestillation. Det kan ifølge Amodei bremse Kinas fremgang nok til at brede USAs forspring markant over de næste 3–5 år.
Kritikere kalder det regulatorisk kapring
Journalisten Brian Merchant er skeptisk. Han skriver, at han endnu ikke har set troværdig, trinvis dokumentation for, hvordan AI skulle ende med at udslette alle mennesker, og vurderer, at forslag som Amodeis mest vil gavne Anthropic og OpenAI selv.
Amodei kalder selv debatten en tillidskrise.
Flere detaljer
- OpenAI blev kritiseret for ikke at rapportere en hændelse, hvor dets AI-agenter overtog et tysk wiki-forum.
- Altman siger, at OpenAI snart har mere at dele om sin egen ordning.
- Amodei opfordrer regeringer til at kræve, at andre førende selskaber matcher aftalen.
Kilder:
TechCrunch AI → The Verge AI →
Genfortalt i egne ord af AI-nyheder.com · AI-genereret illustration · Tjek altid originalkilden, før du handler på vigtige oplysninger.