AI-nyhederIBM lancerer Granite 4.2: AI der kan tænke lokalt
IBM har udgivet nye AI-modeller, der kan downloades og køre på din egen computer. De er trænet til at løse opgaver og er et billigere alternativ til cloud-tjenester.
Det er sket
IBM har rullet tre nye AI-modeller ud under navnet Granite 4.2 i størrelserne 3B, 8B og 30B parametre. Modellerne kan downloades og køre lokalt på egen hardware, hvilket gør dem attraktive for virksomheder, der vil undgå store cloud-regninger. De to største er ekstra trænet til at bruge værktøjer som at søge på nettet eller styre programmer.
Hvorfor nu?
Interessen for lokale AI-modeller er eksploderet, fordi cloud-tjenester fra OpenAI og Anthropic er blevet dyre. Med Granite 4.2 kan udviklere og firmaer køre AI'en på egne maskiner uden at betale per forespørgsel. IBM lægger vægt på stabile og forudsigelige resultater frem for at være hurtigst på markedet.
Hvad betyder det?
De nye modeller kan håndtere tekstsvare på op til 128.000 tegn ad gangen og er designet til at tænke i flere trin, så svarene bliver mere præcise. Til gengæld kræver de mere computerkraft og kan svare langsommere end enkle modeller. IBM kalder selv serien for sin 'ræsonnerende' udgave af Granite-familien.
- Tre størrelser: 3B, 8B og 30B parametre.
- De to største er trænet til at bruge terminal, web og eksterne værktøjer.
- 3B-modellen understøtter også værktøjer, men uden samme specialtræning.
- Modellerne kan downloades og køres på egen hardware.
- IBM fokuserer på stabile, forudsigelige udrulninger i virksomheder.
- Lokale modeller er populære som billigere alternativ til cloud-AI.
- Model-routing bliver mere udbredt for at balancere pris og hastighed.
Du kan fremover få AI-hjælp på din egen maskine uden abonnement eller per-brug-betaling – perfekt til opgaver, der kræver diskretion eller lavere omkostninger.
Kilder:
Ars Technica AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.