Сколько стоит LLM? Математика по токенам и примеры

Три способа оплаты LLM

Если вы задаетесь вопросом сколько стоит LLM, первый шаг — выбрать, какой вид стоимости вы имеете в виду. Их три, и они не сопоставимы, пока не приведены к единой шкале.

Модель	Вы платите за	Структура расходов
Хостинговое API	Отправленные и полученные токены	Ноль в простое, растет с использованием
Подписка на чат	Ежемесячный план для чат-приложения	Фиксированная плата, обычно без доступа к API
Собственный хостинг	GPU, питание, настройка и обслуживание	Высокие постоянные расходы, низкая стоимость каждого дополнительного запроса

Эта статья фокусируется на случае с хостингом API, потому что это тот вариант, где вы можете рассчитать ответ заранее. У других поставщиков проверьте их текущие страницы с ценами; цены меняются и здесь не повторяются.

Формула стоимости API

Каждый запрос имеет входную часть (ваш промпт, системное сообщение и любая история чата) и выходную часть (то, что пишет модель). Обе считаются в токенах, а токен — это примерно три четверти английского слова. Стоимость:

стоимость = (входные токены / 1 000 000 × цена входа) + (выходные токены / 1 000 000 × цена выхода)

На этом сервисе цена ввода составляет $0,15 за 1 млн токенов, а цена вывода — $0,50 за 1 млн токенов. Вывод дороже ввода чуть более чем в три раза, поэтому длинный ответ стоит значительно дороже, чем длинный вопрос.

Вот один запрос, рассчитанный вручную. Промпт на 1 000 токенов и ответ на 500 токенов:

• Вход: 1 000 / 1 000 000 x $0,15 = $0,00015
• Выход: 500 / 1 000 000 × $0,50 = $0,00025
• Итого: $0,0004

Это четыре сотых цента. Масштабируйте: 1 000 таких запросов стоят $0,40, а 100 000 — $40.

Примеры расчетов для реальных нагрузок

Чат-бот поддержки

Допустим, 10 000 диалогов в месяц. Каждый отправляет 3 000 входных токенов в общей сложности (системный промпт плюс история по ходам) и получает 800 выходных токенов. Ввод: 30 млн токенов × $0,15 за 1 млн = $4,50. Вывод: 8 млн токенов × $0,50 за 1 млн = $4,00. Итого за месяц: $8,50.

Суммаризация документов

Документ на 50 000 токенов и краткое изложение на 1 000 токенов. Вход: 0,05 млн × $0,15 = $0,0075. Выход: 0,001 млн × $0,50 = $0,0005. Это $0,008 за документ, поэтому 1 000 документов стоят $8,00. Заполнение всего контекстного окна на 100 000 токенов только входными данными стоит $0,015.

Длительный ролевой или компаньон-чат

Промпт начинается с 500 токенов и растет на 350 токенов каждый ход, потому что история отправляется повторно. За 20 ходов модель читает 76 500 входных токенов и пишет 5 000 выходных токенов. Вход: 0,0765 млн × $0,15 = около $0,0115. Выход: 0,005 млн × $0,50 = $0,0025. Около $0,014 за весь сеанс.

Пакетный классификатор

200 входных токенов и 10 выходных токенов на элемент, один миллион элементов. Ввод: 200 млн × $0,15 за 1 млн = $30. Вывод: 10 млн × $0,50 за 1 млн = $5. Итого: $35. Здесь объём большой, но стоимость всё равно небольшая, потому что выходные токены крошечные.

Ежемесячный бюджет на трех уровнях использования

Используя запрос с 1 000 входными и 500 выходными токенами по $0,0004 каждый, вот как выглядит месяц из 30 дней при разных объемах.

Использование	Запросов в день	Запросов в месяц	Ежемесячная стоимость
Хобби-бот	1 000	30 000	$12
Малый продукт	10 000	300 000	$120
Загруженный сервис	100 000	3 000 000	$1 200

Таблица масштабируется линейно, поэтому если ваш средний запрос в два раза длиннее, удвойте стоимость. Хобби-бот также легко помещается в минимальное пополнение: $20 оплачивают 50 000 запросов такого размера, а баланс не сгорает, поэтому неиспользованный остаток просто ждет.

Почему счёт оказывается выше расчётного

Оценки дают сбой предсказуемым образом. Проверьте это, прежде чем решить, что инструмент дорогой.

• История отправляется при каждом ходе. Каждое новое сообщение содержит все предыдущие. Чат из 50 ходов — это не 50 маленьких запросов; последние из них большие. Пример с ролевой игрой выше показывает этот рост.
• Развёрнутые ответы. Токены вывода стоят дороже. Если вам нужен только метка или короткий ответ, укажите это в промпте и установите max_tokens.
• Повторные попытки в вашем коде. Цикл, который пересылает запрос после тайм-аута, может удвоить расходы. Обратите внимание, что в этом API неудачные или отклонённые запросы не оплачиваются.
• Большой вставленный контекст. Легко вставить файл на 60 000 токенов в каждый вызов и забыть об этом.

Способы снижения стоимости

Большая часть экономии достигается за счёт отправки меньшего количества токенов, а не за счёт поиска более дешёвой модели.

1. Обрезайте или суммируйте старые ходы чата, когда они перестают быть важными.
2. Поместите стабильные инструкции в одно короткое системное сообщение, а не повторяйте их в каждом пользовательском сообщении.
3. Запросите структурированный вывод в JSON-режиме (response_format: {"type":"json_object"}), чтобы не платить за лишние слова вокруг данных.
4. Используйте последовательности stop, чтобы завершить генерацию там, где это нужно вашему парсеру.
5. Объединяйте мелкие элементы в один запрос, когда каждый элемент слишком мал.

Вы можете отслеживать эффект напрямую. Каждый ответ включает заголовок X-Balance-USD, а потоковые ответы сообщают об использовании в конце. Этот скрипт выводит стоимость одного вызова:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredlocalllm.com/v1", api_key="YOUR_API_KEY")

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Explain tokens in two sentences."}],
    max_tokens=150,
)
u = r.usage
cost = u.prompt_tokens / 1_000_000 * 0.15 + u.completion_tokens / 1_000_000 * 0.50
print(u.prompt_tokens, u.completion_tokens, round(cost, 6))

Оцените свои затраты до начала разработки

Посчитайте свои реальные токены на нескольких типичных запросах, затем умножьте. Короткая функция выполняет арифметику для любого среднего размера.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredlocalllm.com/v1", api_key="YOUR_API_KEY")

def monthly_cost(requests_per_month, avg_in, avg_out):
    return requests_per_month * (avg_in * 0.15 + avg_out * 0.50) / 1_000_000

print(monthly_cost(30_000, 1000, 500))    # 12.0
print(monthly_cost(10_000, 3000, 800))    # 8.5

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Say hello."}],
    max_tokens=10,
)
print(r.usage.prompt_tokens, r.usage.completion_tokens)

Прогоните двадцать типичных промптов через пробный период, усредните числа usage и подставьте их в функцию. Это даст вам показатель, основанный на вашем продукте, а не на общем примере.

Собственный хостинг: когда это имеет смысл

Запуск модели с открытыми весами самостоятельно убирает оплату за токен, но заменяет её фиксированными расходами: GPU с достаточной памятью, электричеством, временем на настройку и обновлениями. Эти расходы оплачиваются, независимо от того, занята машина или простаивает. Самостоятельный хостинг обычно выгоден при стабильном высоком объёме или строгой необходимости держать всё на своей машине. Для эпизодического использования, скачкообразного трафика или прототипа оплата за токены проще и обычно дешевле, потому что простой API ничего не стоит.

Справедливое сравнение требует ваших собственных данных: ваш ежемесячный объём токенов, стоимость оборудования и стоимость вашего времени. Используйте приведённые выше формулы для стороны API, затем оцените сторону оборудования по реальным коммерческим предложениям. Если вам нужна более широкая картина запуска открытых моделей, руководство по чату с LLM без цензуры охватывает варианты интеграции.

Цены и пополнение на этом сервисе

Оплата предоплатная, по мере использования. Вы можете пополнить баланс на любую целую сумму от $20 до $500, а крупные пополнения дают бонус: +5% от $50, +10% от $100 и +15% от $200. Пополнение на $100 превращается в $110 предоплаченного баланса. Оплата криптовалютой: USDT в сети TRC20 или USDC в сети Base. Баланс не сгорает, подписки нет.

Новые пользователи могут получить $0,50 бесплатного пробного баланса в один клик на странице API-ключа. Он действует 7 дней, не требует данных для оплаты и предоставляется один на человека. При стоимости $0,0004 за запрос с вводом 1 000 и выводом 500 токенов, его хватит примерно на 1 250 запросов, что достаточно, чтобы оценить свои средние затраты до оплаты. На странице тарифов указаны ставки, а в документации — формат запроса.

Дополнительные руководства

• Лучшая локальная LLM для кода на Python: локальная или хостинг-версия API?
• Чат с LLM без цензуры: Руководство по интеграции и варианты использования