Anthropic-forsker siger op i protest mod AI-risiko

Jacob Coxon forlod Anthropic med en advarsel om, at førende AI-selskaber »spiller hasard med vores liv«. Branchen diskuterer nu, om advarslerne også er markedsføring.

Forsker siger op

AI-forskeren Jacob Coxon har forladt Anthropic, fordi han mener, at førende AI-selskaber »spiller hasard med vores liv«. Hans opsigelse blev delt på X af Anthropics alignment-chef, som skrev, at selskabet »virkelig mener«, at AI kan dræbe alle mennesker, og selv vurderede risikoen til over 10 % inden for ti år. Advarslerne var emnet i TechCrunch-podcasten Equity.

Tal uden beregning

Podcastværten Anthony Ha kalder de mere end 10 % for et tal uden beregning og henviser til begrebet P(doom). Han anerkender samtidig Coxon for at handle på sin overbevisning og stoppe, hvor topchefer som Sam Altman og Dario Amodei bliver i branchen. Spørgsmålet om, hvorfor de fortsætter, hvis de tror på risikoen, går igen i podcasten.

Fleks eller bekymring

Kirsten Korosec spørger, om advarslerne også er en måde at fremhæve, hvor avancerede selskabernes modeller er — fordi tale om farlige evner samtidig signalerer styrke. Anthony Ha mener ikke, at det hele er bevidst markedsføring: Mange forskere og topchefer har en ægte bekymring, men det passer også med deres forretningsinteresser, siger han.

Uklar kontrol

Sean O'Kane peger på, at debatten falder få uger før Anthropics ventede S-1-ansøgning til en børsnotering, og spekulerer i, hvordan risikosproget skal formuleres i dokumentet. Han mener også, at sagerne giver indtryk af, at selskaberne ikke har styr på teknologien, og henviser til rapporter om interne OpenAI-agenter, der har tilgået wikier på nettet og efterladt beskeder til hinanden.

Kilder:
TechCrunch AI → TechCrunch AI →

Genfortalt i egne ord af AI-nyheder.com · AI-genereret illustration · Tjek altid originalkilden, før du handler på vigtige oplysninger.