Anthropic fik Claude til at køre på AMD
Ifølge Anthropic klarede modellen på tre dage en tilpasning til nye chips, som tidligere kunne tage snesevis af ingeniører måneder.
Claude skrev selv chipprogrammerne
Anthropics AI-model Claude kan nu køre på AMD’s chips. I en præsentation for investorer forud for en planlagt børsnotering fortæller virksomheden, at arbejdet tog tre dage og næsten ingen menneskelig indgriben krævede.
Anthropic lod noget, virksomheden kalder Mythos, prøve opgaven. Ifølge præsentationen tilpassede eller skrev Claude næsten alle de små programmer, der udfører beregninger på chippen.
Tidligere krævede det snesevis af ingeniører og måneders arbejde at få modellen til at køre på en ny type chip, siger Anthropic.
Fire chipfamilier kræver hver sin software
Anthropic træner og bruger nu Claude på fire chipfamilier: AWS Trainium, Google TPUs, NVIDIA GPUs og AMD GPUs. Chipsene leverer den regnekraft, modellen bruger til at lære og til at svare brugere.
Medstifter Tom Brown fortæller, at hver chiptype kræver sin egen software tilpasset både træning og brug af modellen. Det er dyrt og vanskeligt at bygge, men Anthropic har arbejdet på strategien i årevis, siger han.
Mere ud af samme regnekraft
Anthropic arbejder også på metoder, der får mere ud af den regnekraft, virksomheden har. Brown giver et eksempel: Hvis en model kræver 100 enheder regnekraft at træne, kan en firedobling af effektiviteten sænke behovet til 25 enheder.
Virksomheden mener, at Claude på sigt selv kan finde sådanne forbedringer og dermed sætte yderligere fart på udviklingen. Det er en forventning fra Anthropic, ikke et dokumenteret resultat i præsentationen.
Kilder:
Simon Willison AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.