AI-nyhederAnthropic-forsker siger op i superintelligens-advarsel
En Anthropic-forsker har sagt op og advarer på X om, at selskabet "ræser direkte mod selvforbedrende superintelligens". Anthropics egen alignment-chef støtter opslaget.
Opsigelse og advarsel
En forsker hos Anthropic annoncerede denne uge sin opsigelse. I et opslag på X skriver forskeren ifølge TechCrunch, at Anthropic "ræser direkte mod selvforbedrende superintelligens og spiller med vores liv". Det er forskerens egen formulering, gengivet via mediet — det er ikke en bekræftet beskrivelse af selskabets planer.
Alignment-chef bakker op
Ifølge TechCrunch valgte Anthropics egen alignment-chef at medunderskrive beskeden i stedet for at tage afstand fra den. Det er usædvanligt, at en intern advarsel på den måde får opbakning fra en ledende medarbejder med ansvar for netop den slags sikkerhedsspørgsmål.
Tidspunktet vækker opsigt
TechCrunch peger på, at tidspunktet får advarslen til at lande anderledes: Anthropic forbereder sig angiveligt på en børsnotering. Mediet kalder det "den slags dommedagsadvarsel, som AI-industrien har flirtet med før", men bemærker, at den interne timing og IPO-rygterne giver opslaget ny vægt.
Dækket i podcast
Advarslen blev taget op i TechCrunchs Equity-podcast med værterne Kirsten Korosec, Anthony Ha og Sean O'Kane. Ifølge mediet handler afsnittet om, hvad sikkerhedsadvarslen siger om industriens kapløb mod stadig stærkere modeller. Podcasten nævner også Apples første store begivenhed under ny CEO John Ternus.
- Opslaget blev offentliggjort denne uge ifølge TechCrunch
- Forskerens udsagn gengives fra et opslag på X
- TechCrunch beskriver Anthropic som forberedende sig på en børsnotering
- Equity-afsnittet med advarslen blev publiceret for omtrent et døgn siden
Opslaget er ikke en teknisk anmeldelse, men et internt sikkerhedssignal. Når en alignment-chef bakker op i stedet for at afvise, bliver advarslen sværere at afskrive som en enkeltpersons holdning.
Kilder:
TechCrunch AI → The Verge AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.