Nvidia lancerer åbne modeller til agenter og AI-PC'er
Nemotron 3.5 Super VL med 120 milliarder parametre skal drive virksomheders agenter. To små Bolt-modeller kan køre lokalt på AI-PC'er uden cloud.
120 milliarder parametre til virksomhederne
Nvidia har sendt Nemotron 3.5 Super VL på markedet: en åben model med 120 milliarder parametre — de justerbare vægte, modellen er bygget op omkring — rettet mod de agenter, virksomheder sætter til at løse opgaver automatisk.
Modellen har færre parametre end Nemotron 3 Ultra, men Nvidia oplyser, at den giver omtrent samme præcision, når den skal følge instrukser og kalde værktøjer, altså selv hente data eller sætte funktioner i gang.
- Parametre i Nemotron 3.5 Super VL
- 120 milliarder
- Parametre i Nemotron 3.5 Bolt 74B-A9B 24GB, den største af de to små modeller
- 74 milliarder
Data bliver på egne servere
Vægtene er åbne, og det er hele pointen. Virksomheder kan eftertræne Super VL på deres egne data og køre den på deres egne maskiner i stedet for at sende opgaverne til en ekstern leverandør.
»I modsætning til lukkede frontiermodeller kan organisationer eftertræne Super VL på deres egne data, udrulle den på deres egen infrastruktur og eje det, de bygger,« skriver Kari Briski, Nvidias vicepræsident for åbne modeller og software, i selskabets blogindlæg om lanceringen.
De små modeller bliver på PC'en
Ved siden af den store model kommer to lette Bolt-modeller. Nemotron 3.5 Bolt 74B-A9B 24GB har 74 milliarder parametre og skal klare flertrinsræsonnement, værktøjskald og web browsing lokalt.
Den mindste, Bolt E4B, er beregnet til samtalende agenter. De to modeller er tiltænkt AI-PC'er med Nvidia-chippen RTX Spark og arbejdsstationer med DGX Spark, som partnere som Microsoft og Dell nu sender ud på markedet.
Et regnestykke fra Nvidia selv
Nvidia hævder, at Super VL løser opgaver hurtigere end konkurrerende modeller fra Anthropic og OpenAI — Opus 5, GPT 6.1 Sol, Luna og Astra — når den er eftertrænet til bestemte agentopgaver som dokumentanalyse, regnskab, videnskabelige forsøg, forsikringskrav og sikkerhed.
Sådanne krav er standard, når en techgigant lancerer en model. Nvidia bakker dem op med en liste af virksomheder, som selskabet siger bruger Super VL: Skydance, EY, Ramp, Crowdstrike, Perplexity og Salesforce.
Flere detaljer
- Super VL og Bolt 74B-A9B er tilgængelige nu, mens Bolt E4B kommer senere i oktober.
- Nvidia har i forvejen en familie af Nemotron-modeller til blandt andet kodning, matematik og multimodal AI.
- De lukkede AI-laboratorier, som både er Nvidias kunder og investeringer, kigger nu mod AWS' Trainium, Cerebras og egne chips.
Kilder:
TechCrunch AI →
Genfortalt i egne ord af AI-nyheder.com · AI-genereret illustration · Tjek altid originalkilden, før du handler på vigtige oplysninger.