LLM 成本多少？Token 計費方式與範例

三種為 LLM 付費的方式

如果你想知道 LLM 的費用是多少，第一步是選擇你指的費用類型。共有三種，必須將它們放在同一基準上才能比較。

模型	你需為以下項目付費	成本形態
託管 API	被發送與接收的 token	閒置時為零，隨使用而增長
聊天訂閱	聊天應用程式的月度方案	固定費用，多數情況下無 API 存取權
自託管	GPU、電力、設定與維護	高固定成本，每次額外請求的成本較低

本文專注於託管 API 的情況，因為這是你可以事先計算答案的情況。對於其他供應商，請查看其目前的定價頁面；價格會變動且此處不再重複列出。

API 費用的計算公式

每個請求都有輸入端（你的提示詞、系統訊息和任何聊天歷史記錄）和輸出端（模型生成的內容）。兩者都以 token 計算，一個 token 約為英文單字的四分之三。費用為：

費用 = (輸入 token / 1,000,000 x 輸入價格) + (輸出 token / 1,000,000 x 輸出價格)

在此服務上，輸入價格為每 1M token $0.15，輸出價格為每 1M token $0.50。輸出比輸入貴三倍多，因此長回覆比長問題貴得多。

以下是手動計算的一次請求。提示詞為 1,000 token，回覆為 500 token：

• 輸入：1,000 / 1,000,000 x $0.15 = $0.00015
• 輸出：500 / 1,000,000 x $0.50 = $0.00025
• 總計：$0.0004

那是百分之四美分。放大來看：1,000 次此類請求的成本為 $0.40，100,000 次則為 $40。

實際負載的計算範例

支援聊天機器人

假設每月 10,000 次對話。每次對話總共發送 3,000 個輸入 token（系統提示詞加上各輪次的歷史記錄）並接收 800 個輸出 token。輸入：30M token x 每 1M $0.15 = $4.50。輸出：8M token x 每 1M $0.50 = $4.00。月度總計：$8.50。

文件摘要

一份 50,000 token 的文件和一份 1,000 token 的摘要。輸入：0.05M x $0.15 = $0.0075。輸出：0.001M x $0.50 = $0.0005。每份文件費用為 $0.008，因此 1,000 份文件費用為 $8.00。僅輸入就填滿整個 100,000 token 的上下文視窗費用為 $0.015。

長篇角色扮演或陪伴對話

提示詞從 500 token 開始，每次輪次增加 350 token，因為歷史記錄會重新發送。經過 20 輪，模型讀取 76,500 個輸入 token 並生成 5,000 個輸出 token。輸入：0.0765M x $0.15 = 約 $0.0115。輸出：0.005M x $0.50 = $0.0025。整場對話約 $0.014。

批次分類器

每項項目包含 200 個輸入 token 和 10 個輸出 token，共一百萬項。輸入：200M x 每 1M $0.15 = $30。輸出：10M x 每 1M $0.50 = $5。總計：$35。此處量很大，但成本仍然很低，因為輸出非常短。

三種使用量級下的月度預算

以每次請求 $0.0004 的 1,000 輸入、500 輸出請求為例，以下是 30 天內不同用量規模的月度情況。

用量	每日請求數	每月請求數	每月成本
愛好者機器人	1,000	30,000	$12
小型產品	10,000	300,000	$120
繁忙服務	100,000	3,000,000	$1,200

表格呈線性縮放，因此如果你的平均請求長度加倍，成本也加倍。愛好者機器人也能輕鬆符合最低儲值門檻：$20 可支付 50,000 次此類請求，且額度永不過期，因此未使用的餘額只是靜靜等待。

為什麼帳單會比預估高

預估會以可預期的方式失效。在決定某個工具是否昂貴之前，請先檢查以下項目。

• 每輪重新發送歷史。 每則新訊息都包含所有先前的訊息。50 輪的聊天並非 50 次小型請求；後續的請求較大。上述角色扮演範例展示了這種增長。
• 冗長的輸出。 輸出 token 的成本較高。如果你只需要標籤或簡短回答，請在提示詞中說明，並設定 max_tokens。
• 程式碼中的重試。 超時後重新發送請求的迴圈可能會導致雙重扣款。注意，此 API 對失敗或遭拒的請求不會收費。
• 龐大的貼上上下文。 將 60,000 token 的檔案放入每次呼叫中很容易，也很容易忘記。

降低成本的方法

大多數節省來自發送較少的 token，而不是尋找更便宜的模型。

1. 一旦舊的對話輪次不再重要，請將其修剪或摘要。
2. 將穩定的指示放在一個簡短的系統訊息中，而不是在每個使用者訊息中重複。
3. 使用 JSON 模式請求結構化輸出（response_format: {"type":"json_object"}），這樣你就無需為數據周圍的冗長文字付費。
4. 使用 stop 序列，在解析器需要結束時終止生成。
5. 當每個項目都很小時，將小型項目批次化到一個請求中。

你可以直接追蹤影響。每則回應都包含 X-Balance-USD 標頭，串流輸出則在結尾報告用量。此腳本會印出一次呼叫的成本：

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredlocalllm.com/v1", api_key="YOUR_API_KEY")

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Explain tokens in two sentences."}],
    max_tokens=150,
)
u = r.usage
cost = u.prompt_tokens / 1_000_000 * 0.15 + u.completion_tokens / 1_000_000 * 0.50
print(u.prompt_tokens, u.completion_tokens, round(cost, 6))

在建立之前預估你自己的成本

對幾組典型請求計算你的實際 token 數，然後進行乘法運算。一個短函式可為任何平均大小進行算術運算。

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredlocalllm.com/v1", api_key="YOUR_API_KEY")

def monthly_cost(requests_per_month, avg_in, avg_out):
    return requests_per_month * (avg_in * 0.15 + avg_out * 0.50) / 1_000_000

print(monthly_cost(30_000, 1000, 500))    # 12.0
print(monthly_cost(10_000, 3000, 800))    # 8.5

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Say hello."}],
    max_tokens=10,
)
print(r.usage.prompt_tokens, r.usage.completion_tokens)

透過試用期執行二十個典型提示詞，平均化 usage 數字，並將其代入函式。這會給出基於你的產品而非通用範例的數值。

自託管：何時適合

自行運行開放權重模型可以消除每 token 費用，但會以固定成本取代：具有足夠記憶體、電力、設定時間和更新的 GPU。無論機器是否忙碌，這些成本都會產生。當你有穩定、高流量或嚴格需要將所有內容保留在自己機器上時，自託管往往會勝出。對於偶爾使用、流量尖峰或原型，按 token 付費更簡單且通常更便宜，因為閒置的 API 成本為零。

公平的比較需要你自己的數據：你每月的 token 用量、硬體價格以及你時間的價值。對 API 端使用上述公式，然後根據實際報價對硬體端進行定價。如果你想了解運行開放模型的更廣泛情況，uncensored LLM 聊天指南涵蓋了整合選項。

此服務的定價與儲值

計費為預付且隨用隨付。你可以儲值任何整數金額，從 $20 到 $500，較大的儲值會增加獎金：從 $50 起 +5%，從 $100 起 +10%，從 $200 起 +15%。$100 的儲值會變成 $110 的額度。付款方式為加密貨幣：TRC20 上的 USDT 或 Base 上的 USDC。額度永不過期，且沒有訂閱制。

新用戶可以在 API 金鑰頁面 上一鍵領取 $0.50 的試用額度。有效期為 7 天，不需要付款詳情，每人限領一次。以每次 1,000 輸入、500 輸出的請求 $0.0004 計算，它涵蓋約 1,250 次請求，這足以在支付任何費用之前測量你自己的平均成本。定價頁面 列出了費率，文件 顯示了請求格式。

更多指南

• Python 編碼的最佳本地 LLM：本地還是託管 API？
• Uncensored LLM Chat：整合指南與使用案例