AI-nyhederDatabricks: Sådan tæmmes de voksende AI-regninger
AI-kodning hitter, men regningen eksploderer. Databricks deler nu de tricks, der holder udgifterne nede uden at bremse udviklerne.
Problemet
Hos Databricks har AI-kodning givet kæmpe fremskridt - nogle teams leverer op til 10 gange mere. Men prisen vokser så hurtigt, at den til sidst kan æde hele gevinsten. Virksomheder står i et uløseligt dilemma: De vil gerne give alle medarbejdere adgang til AI, men budgettet kan ikke følge med.
Løsningen
Flere store virksomheder som Stripe, Coinbase, Uber og Ramp er nået frem til samme svar: Man skal ikke bare købe de dyreste topmodeller. I stedet handler det om at finde den billigste model, der er god nok til opgaven. Den billigere ende af modellerne bliver nemlig hele tiden bedre, så man kan få næsten samme kvalitet til en brøkdel af prisen.
Værktøjerne
Databricks har bygget to gratis værktøjer, som andre kan bruge: Omnigent og Unity AI Gateway. De styrer automatisk, hvilken model der bruges til hvad, og giver udviklerne besked, hvis de er ved at sprænge budgettet. På den måde kan man give alle adgang uden at miste kontrollen over udgifterne.
- AI-kodning har forbedret alle hastighedsmålinger hos Databricks.
- Omkostningerne vokser eksponentielt og kan overhale omsætningen.
- Den største besparelse kommer fra at skifte til nyere, billigere modeller.
- "Effektivitetsfronten" udvikler sig hurtigere end intelligensfronten.
- Flere digitale virksomheder bruger samme teknikker: Stripe, Coinbase, Uber og Ramp.
- Databricks har open source-made deres AI Gateway og Omnigent.
- Nye, bedre modeller udkommer næsten hver uge.
Du kan få glæde af AI til kodearbejde uden at sprænge budgettet - hvis din virksomhed bruger de rigtige værktøjer og vælger modeller med omtanke.
Kilder:
Hacker News: AI →
Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.