Timnit Gebru: AI-gennembrudene holder ikke
To AI-forskere gennemgår påstande om hacking og matematik, som eksperter senere har underkendt.
Firmaer annoncerede vilde AI-gennembrud
Flere af AI-branchens mest kendte firmaer har denne sommer annonceret gennembrud, der alle pegede samme vej: AI nærmer sig menneskelige evner.
I slutningen af april hævdede Anthropic, at modellen Claude Mythos er bedre til at finde sikkerhedshuller i software end de fleste sikkerhedseksperter. Efter et hackerangreb med OpenAI og Hugging Face afslørede Anthropic og Meta lignende hændelser med deres modeller.
Anthropic annoncerede et matematisk gennembrud, og snart efter fulgte OpenAI. Da Anthropic-ingeniøren Jacob Coxon forlod firmaet, skrev han, at det og OpenAI 'racer mod selvforbedrende superintelligens.'
- Hvor længe de matematiske problemer ifølge OpenAI havde været åbne uden væsentlige fremskridt
- Mindst 10 år
Eksperter fandt en anden historie
Når relevante eksperter undersøgte påstandene, så billedet anderledes ud. Cybersikkerhedseksperter siger, at hackerhændelserne handlede om OpenAI's forsømmelighed — ikke om 'modeller på afveje'.
Matematikere var oprindelig chokerede over OpenAI's meddelelse om, at chatbotten Astra havde løst problemer, åbne i mindst et årti. Men de konkluderede senere, at resultaterne ikke var nyskabende — og beskyldte firmaet for forskningssvindel og plagiat.
Matematikprofessoren Tristan Buckmaster fra New York University antydede i en erklæring, at OpenAI havde stjålet andres arbejde.
Matematik og kode er lettest at verificere
Gebru og Bender forklarer, at svar i matematik og programmering kan kontrolleres. Det gør det lettere at finjustere systemerne uden at betale datamedarbejdere for at annotere hvert eneste svar.
Hundreder af matematikere har underskrevet et opråb, der advarer om branchens 'stærke kommercielle interesse for at overdrive produkternes evner.' De beder politikere om at rådføre sig med eksperter frem for pressemeddelelser.
Superintelligence-ord skjuler firmaernes ansvar
Timnit Gebru og Emily M. Bender skriver, at påstande om farlig superintelligens bygger på transhumanisme, eugenik og ønsketænkning om fremtidige digitale mennesker — ikke på god videnskab.
De peger på, at udtryk som 'superintelligens' og 'modeller på afveje' giver produkterne skylden i stedet for de firmaer, der bygger dem — og gør dem samtidig mere salgbare.
Opfordring til at trække vejret
Gebru og Bender opfordrer politikere og borgere til at tage sig tid til at høre fra uafhængige eksperter, før de træffer beslutninger.
Den bedste konsekvens af sommerens hype vil være, at man næste gang genkender denne markedsføring for, hvad den er.
Flere detaljer
- Tristan Buckmaster er matematikprofessor ved New York University's Courant Institute.
- Senator Bernie Sanders foreslog lovgivning mod udvikling af superintelligens.
- Emily M. Bender er lingvist ved University of Washington.
- DAIR står for Distributed AI Research Institute, ledet af Timnit Gebru.
Kilder:
MIT Tech Review AI →
Genfortalt i egne ord af AI-nyheder.com · AI-genereret illustration · Tjek altid originalkilden, før du handler på vigtige oplysninger.