Microsoft Maia 300 giver syvdoblet rack-gennemstrømning

01Maia 300 skal erstatte Nvidia i Microsofts cloud

Microsoft præsenterer Maia 300, en tredje generations AI-chip, der fra 2027 skal rulles ud i produktion. Den er designet som Microsofts primære system til AI-inferens, altså den fase hvor en AI-model sender svar tilbage, når du stiller den et spørgsmål eller beder den om at udføre en opgave.

Ifølge Scott Guthrie, viceadministrerende direktør for Microsofts cloud-forrening, forventes Maia 300 at levere 40 procent flere tokens per megawatt sammenlignet med førende GPU-baserede systemer. Et token svarer omtrent til et ord eller en tekst-enhed i en model. Med et fuldt rack med 96 acceleratorer leverer chippen op til syv gange højere gennemstrømning end forgængeren Maia 200.

Målet er, at Microsoft fremover primært kan bruge egne AI-chips frem for chips fra Nvidia og AMD.

02Chiplet-arkitektur giver plads til mere beregning

Effektivitetsgevinsten kommer fra en ny chiplet-arkitektur bygget på TSMC's N2P-procesnode. I stedet for at alt sidder på én stor siliciumflade, er chippen delt op i mindre dele: én del til beregning, én til hukommelsesstyring og én til input/output. Ifølge Microsofts Azure-hardwareteam øger dette det siliciumområde, der er dedikeret til beregningsydelse, og lader hver funktion bruge den teknologi, der passer bedst til dens opgave.

Maia 300 bygger videre på Maia 200, som først blev annonceret i januar. Maia 200 kører allerede på produktions-AI-opgaver hos Microsoft, herunder Copilot, GitHub Copilot og Microsoft Foundry. Guthrie kalder Maia 200 for "den bedst præsterende AI-infrastruktur i vores flåde" målt på reelle nøgletal for AI-tjenester.

03Suleyman vil eje hele stakken fra silicium til model

Maia 300 er også en del af Microsofts eget AI-modelarbejde. Ifølge Microsoft AI-direktør Mustafa Suleyman skal selskabet arbejde "på tværs af hele stakken, hele vejen ned til silicium". Med stakken menes alle lag i en AI-løsning fra den fysiske chip og op til modellen og brugerfladen.

Suleyman forklarer, at Microsoft på den skala har brug for en platform, selskabet ejer, og som er designet sammen med dets egne modeller. Han kalder det et "kritisk fokus" at køre Microsofts AI-modeller oven på Maia-chippen. Maia 300 er målrettet nye typer AI-opgaver: langkontekst-ræsonnering, samtaler med lav forsinkelse og længerevarende opgaver, hvor AI-modellen selv træffer flere beslutninger i træk – såkaldte agentiske opgaver.