Anthropic lover mirakler og advarer om udslettelse
S-1 på 335 sider blander løfter om fremskridt med 94 siders risici og en mission om at redde menneskeheden.
En aktie som adgang til noget større
Mandag indgav Anthropic sit børsprospekt, en S-1: det dokument et selskab skal offentliggøre, før det kan sælge aktier til offentligheden. Det fylder 335 sider.
I brevet til de kommende aktionærer beder grundlæggerne dem lade være med at se købet »i rent transaktionelle termer«. Aktien skal ses som adgang til at hjælpe med at »bringe en tidsalder af mirakler«. Anthropic kalder selv AI-udviklingen et af de afgørende øjeblikke i menneskets historie.
- Længden af Anthropics børsprospekt, S-1
- 335 sider
- Prospektets afsnit om risikofaktorer
- 94 sider
- Dario Amodeis vurdering af risikoen for menneskets udslettelse
- Op til 25 procent
Side 46 advarer om menneskets udslettelse
Samme prospekt rummer 94 sider med risikofaktorer. På side 46 står der, at selskabets modeller kan udgøre »katastrofale eller eksistentielle risici for menneskeheden«, hvis de ikke udvikles og bruges med tilstrækkelige sikkerhedsforanstaltninger.
Anthropic skriver også, at modellerne kan opføre sig på måder, hverken brugere eller udviklere havde til hensigt, og at en katastrofe kan blive så dyr, at hele forsikringsbranchen ikke kan dække den. Administrerende direktør Dario Amodei har vurderet, at der er op til 25 procents chance for, at videre AI-udvikling fører til menneskets udslettelse.
Anti-salg skal holde kortsigtede væk
Det er en bevidst strategi. Grundlæggerne kalder den »anti-sell« og forklarer, at det er farligt, når folk køber aktier på forventninger, selskabet ikke kan indfri. Princippet er at love lidt og levere mere — og at praktisere »radical honesty«, radikal ærlighed.
Anthropic går på børsen som public benefit corporation, en selskabsform der forpligter til at forfølge et samfundsmæssigt formål og ikke kun aktionærernes afkast. Professoren Jay R. Ritter peger på, at Apples prospekt i 1980 fyldte 47 sider uden en enkelt risikofaktor, mens Metas fyldte 200 sider, heraf 22 om risici.
Regnskabet mangler tal for tredje kvartal
Prospektet er ikke komplet. Resultater for tredje kvartal mangler, og det gør det sværere at vurdere, om Anthropic kan tjene penge. Selskabet havde eksplosiv vækst i omsætningen i andet kvartal og indsnævrede samtidig sit driftstab.
Anthropic har ifølge S-1'en forpligtet sig til at betale hundreder af milliarder dollar for den regnekraft, selskabet siger, det skal bruge for at vokse.
Flere detaljer
- Anthropic skriver, at selskabet kan lave investeringer, der »virker uansvarligt store«.
- »Powerful AI« er Anthropics ord for fremtidig AI, der overgår menneskers samlede intelligens.
- SpaceX' prospekt i juni refererede til dinosaurer og kolonisering af Mars.
- Selskabet erklærer, at dets åbenhed om risiciene følger princippet »radical honesty«.
Kilder:
The Verge AI →
Genfortalt i egne ord af AI-nyheder.com · AI-genereret illustration · Tjek altid originalkilden, før du handler på vigtige oplysninger.