Anthropic varsler mulig RSI inden længe

01Anthropic peger på fremtidige modeller

Anthropic skriver i en revideret S-1A, at selskabets interne skøn og forventninger til fremtidige modeller — ikke de nuværende — peger på, at det muligvis snart kan nå sin egen definition af »dramatically accelerated progress attributable to AI«. Det er et niveau, hvor AI i stigende grad forbedrer sig selv, også kaldet RSI (recursive self-improvement).

Anthropic bruger allerede AI i sin forskning og udvikling. Selskabet advarer om, at det kan få modellerne til at udvikle sig hurtigere, end det kan udvikle, validere og implementere sikkerheds- og alignmentstiltag — altså tiltag, der skal få modellerne til at følge menneskelige hensigter.

02Ingen nuværende Claude-model over grænsen

Anthropic understreger, at ingen af selskabets nuværende modeller er blevet udpeget som havende overskredet tærsklen, og at det fortsat vurderer de underliggende data. Selskabet siger også, at det ikke forventer at kunne bruge Claude til fuldt autonomt at designe og bygge på hinanden følgende generationer af frontier-modeller — de mest avancerede — uden meningsfuld menneskelig overvågning eller forståelse, hvis og når det bliver teknisk muligt.

TechCrunch bemærker, at en S-1 både er oplysning og markedsføring, og at påstande om at være tæt på en selvbyggende model kan høre til sidstnævnte.

03Claude er blevet bedre til kodning

TechCrunch vurderer, ikke Anthropic, at Claudes evner især inden for kodning, matematik og cybersikkerhed er vokset markant i år. Mediet skriver, at hvis Anthropic mener, at RSI er tæt på, bør omverdenen måske tro på det og handle — eventuelt regulere.