Anthropics Amodei frygter Kinas AI-misbrug
Anthropic-chef Dario Amodei siger, han ikke er modstander af åbne modeller, men frygter Kina kan misbruge dem.
Rygterne blev dementeret
Efter at Nvidia-chef Jensen Huang og en lang række tech-virksomheder skrev et åbent brev imod forbud af åbne AI-modeller, har Anthropics Dario Amodei måttet tale ud. Han understreger, at hans selskab aldrig har bedt om et forbud – og at åbne modeller uden farlige evner er en gave til udviklere og forskere.
Frygten for Kina er reel
Alligevel frygter Amodei, at autoritære regeringer som Kinas kan bygge stærkere AI og opnå militær overlegenhed. Han peger på, at åbne modeller er svære at kontrollere, og at de ikke kan trækkes tilbage, når først de er frigivet. Derfor vil han have et globalt testsystem, som også Kina skal være med i.
Løsningen? Begræns chips og test
Amodei foreslår at begrænse Kinas adgang til kraftige chips og slå hårdt ned på såkaldt distillation – en metode, hvor én AI bombarderer en anden for at lære dens tricks. Samtidig bakker han op om en international testorganisation, der skal tjekke de mest avancerede modeller, uanset hvor de kommer fra.
- Amodei skriver, at åbne modeller uden farlige evner er et offentligt gode.
- Han advarer om, at AI kan muliggøre biologiske angreb – ikke kun cyberangreb.
- Nvidia, Meta, Microsoft og Hugging Face var med i det åbne brev mod forbud.
- Amodei støtter et globalt testsystem, som også Kina skal acceptere.
- Han betegner Kina som den mest kapable autoritære regering inden for AI.
- Amodei ser ikke forbud som en nyttig foranstaltning mod åbne modeller.
Du kan fortsat bruge åbne AI-modeller – men debatten om, hvor grænsen går for at beskytte mod Kina, er langt fra slut.
Kilder:
TechCrunch AI →
Genfortalt i egne ord af AI-nyheder.com · AI-genereret illustration · Tjek altid originalkilden, før du handler på vigtige oplysninger.