Satya Nadella kræver nødbremse til alle AI-modeller
Microsofts CEO vil have AI-modeller indeholdt fra starten, med beviser mennesker kan læse og en autoriseret persons mulighed for at standse dem.
Nadella vil antage at modeller er kompromitterede
Microsofts administrerende direktør, Satya Nadella, har lagt et langt indlæg ud på X om farerne ved meget avancerede AI-modeller.
Han skriver, at vi ikke længere kan acceptere en verden, hvor AI behandles som en "samling af indlejrede sorte bokse", hvis råd og handlinger vi bare tager for gode varer.
Hans budskab er et krav om en grundlæggende indstilling: Vi må udgå fra, at en model er kompromitteret, og indeholde den fra starten.
Nødbremsen skal stoppe opgaven midtvejs
Nadella sammenligner indeholdelse med en nødbremse. En autoriseret person skal altid kunne pause eller lukke en model midt i en opgave.
Han kalder på et mere transparent system, hvor modeller kan indeholdes og observeres, og hvor de efterlader "beviser, der ikke kan ændres ulovligt, og som mennesker selv kan læse".
Efterhånden som modeller bliver mere avancerede, kræver de også mere avanceret indeholdelsesteknologi, som branchen ifølge ham skal standardisere.
Mange krav overlapper med branchens anbefalinger
Flere af Nadellas forslag genkendes fra resten af branchen: rettidig offentliggørelse af hændelser, uafhængige revisioner, verificerbare data og indeholdelse.
Det er især på indeholdelse, at han synes at gå lidt længere end andre i feltet, ved at gøre den til et udgangspunkt og ikke en undtagelse.
Artiklen noterer samtidig, at Nadella gennem hele indlægget omtaler AI som "super intelligens".
Flere detaljer
- Nadella lagde indlægget ud på X, skriver The Verge.
- Artiklen er skrevet af weekendredaktør Terrence O'Brien på The Verge.
- Teksten indgår i serien The AI Superintelligence Slowdown.
Kilder:
The Verge AI → TechCrunch AI →
Genfortalt i egne ord af AI-nyheder.com · AI-genereret illustration · Tjek altid originalkilden, før du handler på vigtige oplysninger.