HPE måler AI-kode per færdigt pull request
HPE oplyser, at rutinearbejde fra over 150 interne applikationer nu kører på åbne modeller og har sænket tokenomkostningerne 30-50%. Selskabet måler færdigt arbejde.
HPE flytter rutinearbejde til egne modeller
HPE oplyser i et sponsorindlæg hos MIT Technology Review, at en hybrid AI-platform sender rutineopgaver fra mere end 150 interne applikationer til åbne modeller, der kører på selskabets egne servere, blandt andet på HPE Private Cloud AI. Det har ifølge HPE sænket tokenomkostningerne med 30 til 50 procent.
Bag ordningen ligger en særlig udfordring ved AI-agenter til kodning. En agent svarer ikke bare én gang: Den planlægger, skriver kode, kører tests og gentager, indtil fejlene er rettet. En enkelt opgave kan derfor bruge 10 til 50 gange flere tokens end en almindelig chatprompt. Tokens er de små tekststykker, en model behandler, og som typisk faktureres per styk.
- Flere tokens i en agentopgave end i en almindelig chatprompt, ifølge HPE
- 10-50 gange
- Lavere tokenomkostninger i HPE's interne hybridopsætning
- 30-50 %
- Forskellen mellem tungeste og letteste bruger på samme licens, ifølge HPE
- 450 gange
Uber og Copilot mærker regningen
Med betaling per token kan de arbejdsgange, der skaber mest værdi, også blive de dyreste. Uber skal angiveligt have brugt hele sit AI-budget for 2026 allerede i april efter at have udvidet brugen af Claude Code. GitHub Copilot er gået fra fast pris til forbrugsbaserede kreditter, og Gartner forventer, at udgifterne til AI-kodning overstiger den gennemsnitlige udviklerløn i 2028.
HPE peger på, at et loft over forbruget kan ramme de værdifulde arbejdsgange. Selskabet skriver ikke, at det nødvendigvis sker, men at brede grænser kan begrænse dem. Samtidig kan et forbrugsloft ikke skelne spild som gentagne forsøg og løkker fra arbejde, der fører til færdig software.
Et pull request bliver nyt nøgletal
HPE anbefaler at måle omkostningen per færdigt pull request: den samlede AI-assisterede udviklingsudgift divideret med antallet af ændringer, der går gennem kodegennemgang og bliver flettet ind i kodebasen. Et pull request er et forslag til en kodeændring, som andre kan gennemgå, før den merges. Man bør også følge omarbejde og fejl, så billigere ændringer ikke skjuler dårligere kvalitet.
Open-weight-modeller, hvis vægte er offentligt tilgængelige, kan ifølge softwarebenchmarks nærme sig de mest avancerede modellers ydeevne på nogle opgaver. HPE understreger, at det ikke viser, at de er lige gode i alle kodebaser. Derfor skal man teste kandidaterne på sin egen kode og sine acceptkriterier. Ejet kapacitet har store udgifter først, men bliver billigere per kald, når den bruges mere; strøm, drift og afskrivning skal medregnes.
Flere detaljer
- Ved lav eller uforudsigelig brug kan lejede API'er være billigere end ejet kapacitet, ifølge HPE.
- De 5 procent mest aktive brugere stod for størstedelen af forbruget.
- HPE måler også omkostning per aktiv udvikler for at fange tunge brugeres forbrug.
Kilder:
MIT Tech Review AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.