Quanto custa um LLM? Cálculos por token e exemplos

Três formas de pagar por um LLM

Se você está se perguntando quanto custa um LLM, o primeiro passo é escolher qual tipo de custo você quer dizer. Existem três, e eles não são comparáveis até que você os coloque na mesma escala.

Modelo	Você paga por	Formato do custo
API Hospedada	Tokens enviados e recebidos	Custo zero quando ocioso, cresce com o uso
Assinatura de chat	Um plano mensal para um aplicativo de chat	Taxa fixa, sem acesso à API na maioria dos casos
Auto-hospedagem	GPU, energia, configuração e manutenção	Alto custo fixo, baixo custo por solicitação adicional

Este artigo concentra-se no caso da API hospedada, porque é o único em que você pode calcular o valor antecipadamente. Para outros fornecedores, verifique as páginas de preços atuais; os preços mudam e não são repetidos aqui.

A fórmula para o custo da API

Toda requisição tem um lado de entrada (seu prompt, mensagem do sistema e qualquer histórico de chat) e um lado de saída (o que o modelo escreve). Ambos são contados em tokens, e um token é aproximadamente três quartos de uma palavra em inglês. O custo é:

custo = (tokens de entrada / 1.000.000 x preço de entrada) + (tokens de saída / 1.000.000 x preço de saída)

Neste serviço, o preço de entrada é $0,15 por 1M de tokens e o preço de saída é $0,50 por 1M de tokens. A saída é um pouco mais de três vezes mais cara que a entrada, então uma resposta longa custa muito mais do que uma pergunta longa.

Aqui está uma solicitação feita manualmente. Um prompt de 1.000 tokens e uma resposta de 500 tokens:

• Entrada: 1.000 / 1.000.000 x US$ 0,15 = US$ 0,00015
• Saída: 500 / 1.000.000 x $0,50 = $0,00025
• Total: $0,0004

Isso equivale a quatro centésimos de centavo. Escalando: 1.000 requisições assim custam $0,40, e 100.000 custam $40.

Exemplos calculados para cargas de trabalho reais

Um chatbot de suporte

Digamos 10.000 conversas por mês. Cada uma envia 3.000 tokens de entrada no total (prompt do sistema mais histórico ao longo dos turnos) e recebe 800 tokens de saída. Entrada: 30M tokens x $0,15 por 1M = $4,50. Saída: 8M tokens x $0,50 por 1M = $4,00. Total mensal: $8,50.

Resumo de documentos

Um documento de 50.000 tokens e um resumo de 1.000 tokens. Entrada: 0,05M x $0,15 = $0,0075. Saída: 0,001M x $0,50 = $0,0005. Isso dá $0,008 por documento, então 1.000 documentos custam $8,00. Preencher toda a janela de contexto de 100.000 tokens apenas com entrada custa $0,015.

Uma sessão longa de roleplay ou de assistente

O prompt começa com 500 tokens e cresce 350 tokens a cada rodada, porque o histórico é reenviado. Em 20 rodadas, o modelo lê 76.500 tokens de entrada e gera 5.000 tokens de saída. Entrada: 0,0765M x $0,15 = cerca de $0,0115. Saída: 0,005M x $0,50 = $0,0025. Cerca de $0,014 para toda a sessão.

Um classificador em lote

200 tokens de entrada e 10 de saída por item, um milhão de itens. Entrada: 200M x $0,15 por 1M = $30. Saída: 10M x $0,50 por 1M = $5. Total: $35. Aqui o volume é grande, mas o custo ainda é pequeno porque as saídas são minúsculas.

Orçamento mensal em três níveis de uso

Usando a solicitação de 1.000 entradas e 500 saídas a $0,0004 cada, aqui está como parece um mês de 30 dias em diferentes volumes.

Uso	Solicitações por dia	Solicitações por mês	Custo mensal
Bot hobby	1.000	30.000	$12
Produto pequeno	10.000	300.000	$120
Serviço sobrecarregado	100.000	3.000.000	$1.200

A tabela escala linearmente, então se a sua requisição média for duas vezes mais longa, dobre o custo. Um bot hobby também cabe facilmente na recarga mínima: $20 pagam por 50.000 requisições deste tamanho, e o crédito nunca expira, então o saldo não utilizado simplesmente aguarda.

Por que uma fatura acaba mais alta que a estimativa

As estimativas falham de maneiras previsíveis. Verifique isso antes de decidir que uma ferramenta é cara.

• Histórico reenviado a cada rodada. Cada nova mensagem carrega todas as anteriores. Um chat de 50 rodadas não são 50 requisições pequenas; as posteriores são grandes. O exemplo de roleplay acima mostra o crescimento.
• Saídas verbosas. Tokens de saída custam mais. Se você só precisa de um rótulo ou uma resposta curta, diga isso no prompt e defina max_tokens.
• Retentativas no seu próprio código. Um loop que reenvia uma requisição após um timeout pode duplicar o gasto. Note que nesta API requisições com falha ou recusadas não são cobradas.
• Contexto colado grande. Colar um arquivo de 60.000 tokens em cada chamada é fácil de fazer e fácil de esquecer.

Formas de reduzir o custo

A maioria das economias vem de enviar menos tokens, não de encontrar um modelo mais barato.

1. Reduza ou resuma rodadas antigas de chat assim que elas deixarem de ser relevantes.
2. Coloque instruções estáveis em uma única mensagem de sistema curta em vez de repeti-las em cada mensagem do usuário.
3. Peça uma saída estruturada com o modo JSON (response_format: {"type":"json_object"}) para você não pagar por prosa conversacional ao redor dos dados.
4. Use sequências stop para encerrar a geração onde seu parser precisa.
5. Agrupe itens pequenos em uma única requisição quando cada item for minúsculo.

Você pode acompanhar o efeito diretamente. Cada resposta inclui um cabeçalho X-Balance-USD, e as respostas em streaming relatam o uso no final. Este script imprime o custo de uma chamada:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredlocalllm.com/v1", api_key="YOUR_API_KEY")

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Explain tokens in two sentences."}],
    max_tokens=150,
)
u = r.usage
cost = u.prompt_tokens / 1_000_000 * 0.15 + u.completion_tokens / 1_000_000 * 0.50
print(u.prompt_tokens, u.completion_tokens, round(cost, 6))

Estime seu próprio custo antes de construir

Conte seus tokens reais em um conjunto de requisições típicas, depois multiplique. Uma função curta faz a aritmética para qualquer tamanho médio.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredlocalllm.com/v1", api_key="YOUR_API_KEY")

def monthly_cost(requests_per_month, avg_in, avg_out):
    return requests_per_month * (avg_in * 0.15 + avg_out * 0.50) / 1_000_000

print(monthly_cost(30_000, 1000, 500))    # 12.0
print(monthly_cost(10_000, 3000, 800))    # 8.5

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Say hello."}],
    max_tokens=10,
)
print(r.usage.prompt_tokens, r.usage.completion_tokens)

Execute vinte prompts típicos no período de teste, faça a média dos valores de usage e insira-os na função. Isso fornece um valor fundamentado no seu produto e não em um exemplo genérico.

Auto-hospedagem: quando faz sentido

Executar um modelo de pesos abertos você mesmo remove a taxa por token, mas a substitui por custos fixos: uma GPU com memória suficiente, eletricidade, tempo de configuração e atualizações. Esses custos são pagos independentemente de a máquina estar ocupada ou ociosa. A auto-hospedagem tende a vencer quando você tem volume constante e alto ou uma necessidade estrita de manter tudo na sua própria máquina. Para uso ocasional, tráfego irregular ou um protótipo, pagar por token é mais simples e geralmente mais barato, porque uma API ociosa não custa nada.

Uma comparação justa precisa dos seus próprios números: seu volume mensal de tokens, o preço do hardware e o valor do seu tempo. Use as fórmulas acima para o lado da API, depois precifique o lado do hardware a partir de orçamentos reais. Se você quiser o panorama mais amplo de execução de modelos abertos, o guia de chat LLM sem censura cobre opções de integração.

Precificação e recargas neste serviço

O pagamento é pré-pago e por uso. Você pode recarregar qualquer valor inteiro de $20 a $500, e recargas maiores adicionam um bônus: +5% a partir de $50, +10% a partir de $100 e +15% a partir de $200. Uma recarga de $100 torna-se $110 de crédito. O pagamento é em cripto: USDT na rede TRC20 ou USDC na Base. O crédito nunca expira e não há assinatura.

Usuários novos podem obter $0,50 de crédito de teste com um clique na página da chave de API. Ele é válido por 7 dias, não exige detalhes de pagamento e é um por pessoa. A $0,0004 por solicitação com 1.000 tokens de entrada e 500 de saída, ele cobre cerca de 1.250 solicitações, o suficiente para medir seu custo médio antes de pagar qualquer valor. A página de preços lista as tarifas, e a página de documentação mostra o formato da solicitação.

Mais guias

• Melhor LLM Local para Programação Python: API Local ou Hospedada?
• Chat LLM Sem Censura: Guia de Integração e Casos de Uso