Hoeveel kost een LLM? Berekeningen per token en voorbeelden

Drie manieren om een LLM te betalen

Als je je afvraagt hoeveel een LLM kost, is de eerste stap bepalen wat je precies met kosten bedoelt. Er zijn drie, en ze zijn niet vergelijkbaar totdat je ze op dezelfde schaal zet.

Model	Je betaalt voor	Kostvorm
Gehoste API	Verzonden en ontvangen tokens	Nul in rust, groeit met gebruik
Chatabonnement	Een maandplan voor een chatapp	Vast tarief, meestal geen API-toegang
Self-hosting	GPU, stroom, installatie en onderhoud	Hoge vaste kost, lage kost per extra verzoek

Dit artikel richt zich op het gehoste API-geval, omdat dit het geval is waarbij je het antwoord van tevoren kunt bereken. Controleer voor andere leveranciers hun huidige prijspagina's; prijzen veranderen en worden hier niet herhaald.

De formule voor API-kost

Elk verzoek heeft een inputkant (je prompt, systeembericht en eventuele chatgeschiedenis) en een outputkant (wat het model schrijft). Beide worden geteld in tokens, en een token is ongeveer drie kwart van een Engels woord. De kost is:

kost = (inputtokens / 1.000.000 x inputprijs) + (outputtokens / 1.000.000 x outputprijs)

Op deze dienst is de inputprijs $0,15 per 1M tokens en de outputprijs $0,50 per 1M tokens. Output is iets meer dan drie keer zo duur als input, dus een lang antwoord kost veel meer dan een lange vraag.

Hier is één verzoek handmatig berekend. Een prompt van 1.000 tokens en een antwoord van 500 tokens:

• Input: 1.000 / 1.000.000 x $0,15 = $0,00015
• Output: 500 / 1.000.000 x $0,50 = $0,00025
• Totaal: $0,0004

Dat is vier honderdsten van een cent. Schaal het op: 1.000 van zulke verzoeken kosten $0,40, en 100.000 kosten $40.

Uitgewerkte voorbeelden voor echte workloads

Een support-chatbot

Stel 10.000 gesprekken per maand. Elk stuurt in totaal 3.000 inputtokens (systeemprompt plus geschiedenis over beurten) en ontvangt 800 outputtokens. Input: 30M tokens x $0,15 per 1M = $4,50. Output: 8M tokens x $0,50 per 1M = $4,00. Maandtotaal: $8,50.

Documenten samenvatten

Een document van 50.000 tokens en een samenvatting van 1.000 tokens. Input: 0,05M x $0,15 = $0,0075. Output: 0,001M x $0,50 = $0,0005. Dat is $0,008 per document, dus 1.000 documenten kosten $8,00. Het hele contextvenster van 100.000 tokens vullen met alleen input kost $0,015.

Een lange roleplay- of companionsessie

De prompt begint met 500 tokens en groeit met 350 tokens per beurt, omdat de geschiedenis opnieuw wordt verzonden. Over 20 beurten leest het model 76.500 inputtokens en schrijft het 5.000 outputtokens. Input: 0,0765M x $0,15 = ongeveer $0,0115. Output: 0,005M x $0,50 = $0,0025. Ongeveer $0,014 voor de hele sessie.

Een batchclassificator

200 inputtokens en 10 outputtokens per item, een miljoen items. Input: 200M x $0,15 per 1M = $30. Output: 10M x $0,50 per 1M = $5. Totaal: $35. Hier is het volume groot, maar de kosten zijn nog steeds klein omdat de outputs miniem zijn.

Maandelijkse budgetten op drie gebruiksniveaus

Met het verzoek van 1.000 input- en 500 outputtokens voor $0,0004 per stuk, ziet een maand van 30 dagen er als volgt uit bij verschillende volumes.

Gebruik	Verzoeken per dag	Verzoeken per maand	Maandelijkse kosten
Hobbybot	1.000	30.000	$12
Klein product	10.000	300.000	$120
Dienst met veel verkeer	100.000	3.000.000	$1.200

De tabel schaalt lineair, dus als je gemiddelde verzoek twee keer zo lang is, verdubbel je de kosten. Een hobbybot past ook makkelijk in de minimale top-up: $20 betaalt voor 50.000 verzoeken van deze grootte, en tegoed verloopt nooit, dus een ongebruikt saldo wacht gewoon.

Waarom een factuur hoger uitvalt dan de raming

Ramingen falen op voorspelbare manieren. Controleer deze punten voordat je besluit dat een tool duur is.

• Geschiedenis opnieuw verzonden bij elke beurt. Elk nieuw bericht bevat alle eerdere berichten. Een chat van 50 beurten is geen 50 kleine verzoeken; de latere zijn groot. Het rollenspel-voorbeeld hierboven toont de groei.
• Uitgebreide uitvoer. Outputtokens kosten meer. Als je alleen een label of een kort antwoord nodig hebt, geef dat dan op in de prompt en stel max_tokens in.
• Herhalingen in je eigen code. Een lus die een verzoek opnieuw verzendt na een time-out, kan dubbele kosten veroorzaken. Let op: bij deze API worden mislukte of geweigerde verzoeken niet in rekening gebracht.
• Grote geplakte context. Het is eenvoudig om een bestand van 60.000 tokens in elk verzoek te plaatsen, en ook eenvoudig om dit te vergeten.

Manieren om de kosten te verlagen

De meeste besparingen komen van het verzenden van minder tokens, niet van het vinden van een goedkoper model.

1. Knip of vat oude chatbeurten samen zodra ze niet meer relevant zijn.
2. Plaats stabiele instructies in één kort systeembericht in plaats van ze in elk gebruikersbericht te herhalen.
3. Vraag om gestructureerde output met JSON-modus (response_format: {"type":"json_object"}) zodat je niet betaalt voor kletsende tekst rond de data.
4. Gebruik stop-sequenties om de generatie te beëindigen waar je parser dat nodig heeft.
5. Bundel kleine items in één verzoek als elk item klein is.

Je kunt het effect direct volgen. Elk antwoord bevat een X-Balance-USD-header, en streaming-antwoorden rapporteren het verbruik aan het einde. Dit script geeft de kosten van één aanroep weer:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredlocalllm.com/v1", api_key="YOUR_API_KEY")

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Explain tokens in two sentences."}],
    max_tokens=150,
)
u = r.usage
cost = u.prompt_tokens / 1_000_000 * 0.15 + u.completion_tokens / 1_000_000 * 0.50
print(u.prompt_tokens, u.completion_tokens, round(cost, 6))

Schat je eigen kosten voordat je bouwt

Tel je echte tokens op een handvol typische verzoeken, en vermenigvuldig. Een korte functie doet de rekenkunde voor elke gemiddelde grootte.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredlocalllm.com/v1", api_key="YOUR_API_KEY")

def monthly_cost(requests_per_month, avg_in, avg_out):
    return requests_per_month * (avg_in * 0.15 + avg_out * 0.50) / 1_000_000

print(monthly_cost(30_000, 1000, 500))    # 12.0
print(monthly_cost(10_000, 3000, 800))    # 8.5

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Say hello."}],
    max_tokens=10,
)
print(r.usage.prompt_tokens, r.usage.completion_tokens)

Voer twintig typische prompts uit met het proeftegoed, neem het gemiddelde van de usage-cijfers en voer ze in de functie in. Dat geeft je een cijfer gebaseerd op je product en niet in een generiek voorbeeld.

Zelf hosten: wanneer het zinvol is

Een open-weight model zelf draaien verwijdert de tokenkosten, maar vervangt deze door vaste kosten: een GPU met genoeg geheugen, stroom, installatietijd en updates. Die kosten betaal je of de machine nu bezig is of niet. Zelf hosten wint meestal als je een constant, hoog volume hebt of een strikte behoefte hebt om alles op je eigen machine te houden. Voor af en toe gebruik, piekverkeer of een prototype, is betalen per token eenvoudiger en meestal goedkoper, omdat een API in rust niets kost.

Een eerlijke vergelijking vereist je eigen cijfers: je maandelijkse tokenvolume, de hardwareprijs en wat je tijd waard is. Gebruik de bovenstaande formules voor de API-kant, en prijs dan de hardwarekant vanaf echte offertes. Als je het bredere beeld wilt van het draaien van open modellen, behandelt de gids over ongecensureerde LLM-chat integratieopties.

Prijzen en top-ups op deze service

Facturatie is prepaid en pay-as-you-go. Je kunt elk geheel bedrag van $20 tot $500 opwaarderen, en grotere top-ups geven een bonus: +5% vanaf $50, +10% vanaf $100 en +15% vanaf $200. Een top-up van $100 wordt $110 aan tegoed. Betaling is in crypto: USDT op TRC20 of USDC op Base. Tegoed verloopt nooit, en er is geen abonnement.

Nieuwe gebruikers kunnen met één klik $0,50 aan proeftegoed claimen op de API-sleutelpagina. Het is 7 dagen geldig, vereist geen betaalgegevens en is één keer per persoon. Bij $0,0004 per verzoek van 1.000 input- en 500 outputtokens dekt het ongeveer 1.250 verzoeken, wat genoeg is om je eigen gemiddelde kosten te meten voordat je iets betaalt. De tarievenpagina geeft de tarieven weer en de documentatie toont de verzoekindeling.

Meer handleidingen

• Beste Lokale LLM voor Python Coding: Lokaal of Hosted API?
• Uncensored LLM Chat: Integratiegids & Gebruiksscenario's