Recursive udgiver Flint: AI byggede næsten hele modellen
Gratis kodemodel på 40 milliarder parametre kører offline på en laptop og er bygget af Recursives eget forskningssystem, Eureka Machine.
Kører offline på en almindelig laptop
Recursive udgav onsdag Flint, en gratis kodemodel, der kører på brugerens egen computer i stedet for på en virksomheds servere. Det betyder, at udviklere kan arbejde offline, holde koden privat og undgå de gebyrer, AI-tjenester tager for at behandle tekst. Modellen kan hentes på Hugging Face under Apache 2.0-licensen, der tillader fri brug og ændring.
Flint er en såkaldt mixture-of-experts-model. Den bruger kun en lille del af sig selv ad gangen: 2,5 milliarder af sine 40 milliarder parametre, altså de indstillinger modellen er bygget op af. Det gør den let nok til en almindelig laptop.
- Aktive parametre ad gangen i Flints mixture-of-experts-model
- 2,5 mia. af 40 mia. parametre
- Recursives test på MacBook Pro med Apple M4 Pro-chip
- 131 tokens/sek.
- Gemma 4 og Nemotron 3.5 Lightning på samme maskine
- 58–69 tokens/sek.
Eureka Machine hjalp ved næsten hvert skridt
Recursives automatiske forskningssystem, Eureka Machine, hjalp med næsten hvert skridt af Flints udvikling, siger selskabet. Det lod et lille team bygge modellen fra bunden på under fire måneder. Systemet finder på ideer, kører forsøg og bruger resultaterne til at afgøre, hvad der skal prøves næste gang.
Ifølge Recursive står Eureka bag en sparsommere modelform, low-bit-træning, der krympede Flint med 71 procent med næsten intet tab i kvalitet, og specialiserede programmer, såkaldte kernels, der speeder de underliggende beregninger op.
Hurtigere end Gemma 4 og Nemotron
I Recursives egne tests genererede Flint cirka 131 tokens — bidder tekst — per sekund på en MacBook Pro med Apples M4 Pro-chip. Lignende modeller som Googles Gemma 4 og Nvidias Nemotron 3.5 Lightning nåede 58 til 69 tokens per sekund på samme maskine. På Nvidias RTX Spark kom Flint over 150.
På benchmarken SWE-Bench Verified, der måler, hvor godt AI retter rigtige fejl i software, slog Flint andre modeller under 50 milliarder parametre. På Recursives eget gennemsnit af seks tests scorede kun Alibabas Qwen3.8 27B højere.
Flint kræver mere styring end de store
Recursive anerkender, at Flint har brug for mere vejledning end de store betalte kodeassistenter, og anbefaler at dele store opgaver op i mindre trin. Wireds Will Knight byggede flere små programmer med modellen på en Mac med 48GB hukommelse og oplevede, at Flint ramte hans kodeønske hver gang.
Selskabet kalder Flint en tidlig offentlig test af rekursiv selvforbedring: idéen om, at AI kan bygge bedre AI. Målet er, at Eureka Machine bliver en bedre forsker for hver model, mens mennesker overvåger og kan stoppe processen.
Flere detaljer
- Recursive rejste 650 mio. dollars ved 4,65 mia. dollars værdiansættelse i maj.
- CEO er Richard Socher, tidligere chefvidenskabsmand i Salesforce.
- I juni indgik Recursive en aftale om 410 mio. dollars regnekraft med AWS.
- Low-bit-træning krympede Flint med 71 procent næsten uden kvalitetstab.
Kilder:
TechCrunch AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.