Yeabin Moon: AI-svar kan blive dyrere end lovet

Forskning viser, at AI-modellers 'tænketid' varierer uforudsigeligt – og det kan give store prisoverraskelser. Her er hvad du skal vide.

Det nye fund

Forsker Yeabin Moon har undersøgt, hvordan AI-modeller bruger tid på at 'tænke', før de svarer. Det viser sig, at den tid er helt forskellig fra model til model – og ofte svær at forudsige på forhånd. Det betyder, at en simpel forespørgsel kan koste meget mere, end du forventer, hvis modellen lige pludselig vælger at tænke længe over den.

Hvorfor det rammer dig

Når du bruger AI som ChatGPT eller lignende, betaler du typisk for antallet af tokens – men ikke for 'tænketiden'. Modelskaberne kan dog ændre prisen når som helst, og hvis de begynder at tage betaling for den tid, modellen bruger på at ræsonnere, kan din månedlige regning stige markant. Undersøgelsen kalder det et nyt kontraktligt problem mellem bruger og udbyder.

Hvad kan du gøre

For almindelige brugere er rådet at holde øje med, hvilken model du faktisk bruger, og hvordan den svarer. Hvis en model pludselig svarer langsommere og med længere tekster, kan det være et tegn på, at den bruger mere 'tænkekraft' – og at prisen kan følge med. Vælg i stedet modeller, der er gennemsigtige omkring deres metode og prisstruktur.

Kilder:
arXiv cs.AI →

Genfortalt i egne ord af AI-nyheder.com · Tjek altid originalkilden, før du handler på vigtige oplysninger.