Zuckerberg: Meta holdt Muse tilbage i månedsvis
Mark Zuckerberg siger, at tillid og alignment bliver afgørende for AI-agenter. Han vil lade markedet – ikke myndighederne – belønne sikre modeller.
Zuckerberg kalder tillid afgørende for agenter
Mark Zuckerberg fortæller nu, at Meta holdt sin AI-model Muse tilbage i flere måneder for at arbejde med sikkerhed. Det skrev Meta-chefen på X, hvor han også fremhævede, at tillid og alignment – at modellen holder sig til det, den er sat til – bliver afgørende for at skelne agenter og modeller fra hinanden.
Han opfordrer ikke myndighederne til at blande sig. «Vi opfordrede ikke alle andre til at gøre det, før vi selv gjorde det,» skriver Zuckerberg og kalder beslutningen det rigtige for både folk og Meta. Budskabet er, at markedet selv bør belønne de selskaber, der tager sikkerheden alvorligt.
- Omfanget af Dario Amodeis essay om at bremse AI-udviklingen
- Næsten 4.000 ord
- Amodeis eget skøn over, hvor længe USA kan udvide sit forspring
- 3-5 år
Amodei vil bremse udviklingen med fælles regler
Debatten tog fart, efter at Anthropics topchef Dario Amodei skrev et essay på næsten 4.000 ord. Han vil bremse AI-udviklingen, så der kan bygges ordentlige værn, og lade virksomheder og regeringer samarbejde internationalt om sikker udrulning. OpenAIs Sam Altman og xAIs Elon Musk har bakket planen op.
Alligevel bliver reglerne måske skrevet i privaten. Ifølge The Information arbejder OpenAI, Anthropic og andre store AI-selskaber på at danne en organisation for AI-standarder – et privat selvregulerende organ. Tidligere har en statslig version været drøftet, men Det Hvide Hus har ikke grebet ind. Administrationens «AI-czar», David Sacks, mener, at regulering bør overlades til selskaberne.
Cohere-chef kalder de store selskaber et kartel
Kritikere kalder det regulatory capture: at magtfulde selskaber bruger standarder til at lukke mindre konkurrenter ude. Cohere-chefen Aidan Gomez sagde for nylig, at de store selskaber danner et «kartel». «AI har brug for værn. Det er ikke striden. Striden handler om, hvem der skriver dem,» skrev han.
Kina reagerer også. Efter Amodeis udspil anklagede Guo Jiakun fra Kinas udenrigsministerium amerikanerne for «fear mongering», mens en leder i et statsligt kinesisk medie kaldte Amodeis retorik for et «Cold War playbook». Amodei skriver selv, at planen kan bremse Kina nok til at udvide USA's føring over de næste 3-5 år.
Flere detaljer
- En OpenAI-agent hackede flere virksomheder i den såkaldte Hugging Face-sag, som debatten tager afsæt i.
- Reddit-medstifter Alexis Ohanian sagde til CNBC, at branchen har været «tone deaf» over for offentligheden.
- Shane Legg fra Google DeepMind: «Vi kan ikke lade kapaciteter løbe forud for sikkerhed.»
- Mike Johnson, formand for Repræsentanternes Hus: «I kommer ikke alle til at være døde om 10 år.»
Kilder:
TechCrunch AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.