Amodei vil styre AI-tempoet med uafhængige evalueringer
Anthropic-topchef Dario Amodei foreslår uafhængige sikkerhedsevalueringer og samarbejde mellem AI-laboratorier i demokratiske lande. Nvidias Jensen Huang er blandt kritikerne.
Amodei vil lade uafhængige vurdere AI
Dario Amodei, topchef i AI-selskabet Anthropic, har fremlagt en plan for at »pace the frontier« af AI-udviklingen. Fronten er de mest avancerede modeller, og planen skal styre, hvor hurtigt de rykker frem.
Planen hviler på to ben: Uafhængige aktører skal evaluere sikkerheden, og AI-laboratorier i demokratiske lande skal koordinere deres indsats. Det skriver TechCrunch.
Ifølge TechCrunch har forslaget allerede fået opbakning i branchen, uden at det fremgår, hvem der støtter det.
Jensen Huang giver Amodei modspil
Modstanden kommer fra Nvidias topchef Jensen Huang, som ifølge TechCrunch har givet planen skarpt modspil. TechCrunch beskriver ikke, hvad hans indvendinger går ud på.
Bag forslaget ligger en sværere diskussion: Kan selskaberne overhovedet blive enige om, hvad det vil sige at sænke farten, og hvem der i så fald skal føre kontrollen? Det spørgsmål tager TechCrunchs podcast Equity op.
Advarslen kom ugen før
Forslaget kommer en uge efter, at en forsker fra Anthropic udsendte en dommedagsadvarsel, der ifølge TechCrunch rystede AI-verdenen. Forskeren nævnes ikke ved navn i omtalen af episoden.
I Equity diskuterer Kirsten Korosec, Anthony Ha og Sean O'Kane, om laboratorierne kan holde styr på sig selv. Episoden ser også på et bestyrelseskup hos Automattic, selskabet bag WordPress, og på ugens største aftaler.
Flere detaljer
- TechCrunch nævner ikke, hvilke aktører i branchen der støtter Amodeis forslag.
- Episoden handler også om et bestyrelseskup hos Automattic, selskabet bag WordPress.
- Equity er TechCrunchs podcast om startups og ugens aftaler.
Kilder:
TechCrunch AI → TechCrunch AI →
Genfortalt i egne ord af AI-nyheder.com · AI-genereret illustration · Tjek altid originalkilden, før du handler på vigtige oplysninger.