AI-nyhederAnthropic-forsker: AI kan slå os alle ihjel
En ledende sikkerhedsforsker forlader Anthropic med en dyster advarsel. Han vurderer, at der er over 10 procent risiko for, at AI udrydder menneskeheden inden 2030.
Farvel og advarsel
Jacob Coxon, der har trænet AI-systemer hos både Anthropic og OpenAI, siger op. På X skriver han, at de to firmaer kappes om at bygge superintelligente systemer, de ikke kan styre. Han kalder det 'at spille hasard med vores liv'.
Lederen er enig
Evan Hubinger, der leder et sikkerhedsteam hos Anthropic, svarer direkte. Han bekræfter, at risikoen er reel: 'Vi tror virkelig, at AI kan slå alle mennesker ihjel'. Han vurderer personligt chancen til over 10 procent inden for det næste årti.
Ingen plan klar
På trods af alvoren indrømmer Hubinger, at firmaet ikke har nogen plan for at sikre, at den avancerede AI forbliver under kontrol. Forskerne advarer om en 'selvforbedrende superintelligens', som kan udvikle sig hurtigere end mennesker kan følge med.
Kappestrid og frygt
Coxon siger, at selskaberne er 'låst i et kapløb', hvor de presser på trods af farerne. Flere forskere har tidligere forladt både Anthropic og OpenAI af samme grund. Bekymringen vokser, i takt med at firmaerne nærmer sig børsnoteringer.
- Jacob Coxon forlod Anthropic og beskylder firmaet for at gamble med menneskeliv.
- Han har tidligere trænet systemer for OpenAI.
- Evan Hubinger bekræfter, at AI kan 'slå alle mennesker ihjel'.
- Hubinger mener, at chancen er over 10 procent inden for ti år.
- Anthropic har ikke plan for at sikre sikkert AI-kapløb.
- Flere forskere har forladt begge virksomheder af sikkerhedsgrunde.
Du kan fremover ikke være sikker på, at det AI, du bruger, er under menneskelig kontrol, hvis firmaerne selv tvivler på, at de kan styre det.
Kilder:
The Verge AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.