JA ▾
API キーを取得

uncensoredlocalllm.comガイド

LLMのコストは?トークン単位の計算と例

LLMの価格は使用方法によって異なります:APIを通じてトークンごとに課金されるか、自前でハードウェアを購入して運用するかです。このガイドでは、実際の数値を用いた計算式と具体例を示します。

更新日:

トークン単位のLLMコストを説明するための、データブロックとコインを比較するアイソメトリックスケールのイラスト

主要ポイント

  • APIコスト = 入力トークン x 入力価格 + 出力トークン x 出力価格。通常、出力の方が高くなります。
  • このAPIでは、レートは1M入力トークンあたり$0.15、1M出力トークンあたり$0.50で、サブスクリプションなしの前払い制です。
  • 入力1,000、出力500のリクエストは$0.0004かかり、1,000回では$0.40かかります。
  • 会話履歴を毎回再送信することは、予想より請求額が高くなる最も一般的な理由です。

LLMの支払い方法3つ

LLMのコストはいくらですかと疑問に思う場合、最初のステップは、どの種類のコストを指しているかを選ぶことです。3つの種類があり、同じ尺度で比較するまでは比較できません。

モデル支払い対象コスト構造
ホスト型API送受信されるトークンアイドル時はゼロ、使用に応じて増加
チャットサブスクリプションチャットアプリの月額プラン定額、ほとんどの場合APIアクセスなし
セルフホスティングGPU、電力、セットアップと保守高い固定費、追加リクエストあたりの低コスト

この記事ではホステッドAPIのケースに焦点を当てています。これは事前にコストを計算できるケースだからです。他のベンダーについては、現在の価格ページをご確認ください。価格は変動しており、ここでは繰り返しません。

APIコストの計算式

すべてのリクエストには入力側(プロンプト、システムメッセージ、およびチャット履歴)と出力側(モデルが書き出す内容)があります。両方がトークンでカウントされ、トークンは英語の単語の約3/4に相当します。コストは次のようになります:

コスト = (入力トークン / 1,000,000 x 入力価格) + (出力トークン / 1,000,000 x 出力価格)

このサービスでは、入力は1Mトークンあたり$0.15、出力は1Mトークンあたり$0.50です。出力は入力より3倍強高いため、長い回答は長い質問よりもはるかに高くなります。

手動で計算した1つのリクエストの例です。1,000トークンのプロンプトと500トークンの応答:

  • 入力:1,000 / 1,000,000 x $0.15 = $0.00015
  • 出力:500 / 1,000,000 x $0.50 = $0.00025
  • 合計:$0.0004

これは1セントの0.04倍です。拡大すると、1,000回のリクエストで$0.40、100,000回で$40になります。

実際のワークロードの計算例

サポートチャットボット

月間10,000回の会話とします。各会話は合計3,000の入力トークン(システムプロンプトとターン全体の履歴)を送信し、800の出力トークンを受信します。入力:30Mトークン x 1Mあたり$0.15 = $4.50。出力:8Mトークン x 1Mあたり$0.50 = $4.00。月間合計:$8.50。

ドキュメントの要約

50,000トークンのドキュメントと1,000トークンの要約。入力:0.05M x $0.15 = $0.0075。出力:0.001M x $0.50 = $0.0005。これはドキュメントあたり$0.008なので、1,000ドキュメントで$8.00です。入力だけで100,000トークンのコンテキストウィンドウ全体を満たすには$0.015かかります。

長いロールプレイまたはコンパニオンセッション

プロンプトは500トークンから始まり、履歴が再送信されるため、各ターンで350トークンずつ増えます。20ターンでモデルは76,500の入力トークンを読み取り、5,000の出力トークンを書き出します。入力:0.0765M x $0.15 = 約$0.0115。出力:0.005M x $0.50 = $0.0025。セッション全体で約$0.014です。

バッチ分類器

項目ごとに200の入力トークンと10の出力トークン、100万項目。入力:200M x 1Mあたり$0.15 = $30。出力:10M x 1Mあたり$0.50 = $5。合計:$35。ここではボリュームは大きいですが、出力が非常に小さいためコストは依然として小さいです。

3つの利用レベルでの月間予算

入力1,000、出力500のリクエストが$0.0004の場合、異なる使用量で1ヶ月(30日)がどのようになるかを示します。

使用1日あたりのリクエスト数1ヶ月あたりのリクエスト数月間コスト
ホビーボット1,00030,000$12
小規模プロダクト10,000300,000$120
高負荷サービス100,0003,000,000$1,200

表は線形にスケールするため、平均リクエストが2倍の長さならコストも2倍になります。趣味のボットでも最小のチャージに収まります:$20でこのサイズの50,000回分のリクエストが支払え、クレジットは期限がないため、未使用の残高は単に待機します。

見積もりより請求額が高くなる理由

見積もりは予測可能な理由で外れます。ツールが高額だと判断する前に、以下を確認してください。

  • 履歴を毎回再送信。 新しいメッセージにはそれ以前のすべてのメッセージが含まれます。50ターン分のチャットは、50回の小さなリクエストではありません;後続のリクエストは大きくなります。上記のロールプレイ例は、その増加を示しています。
  • 冗長な出力 出力トークンはコストがかかります。ラベルや短い答えだけでよい場合は、プロンプトでそれを伝え、max_tokensを設定してください。
  • 自前のコードでのリトライ タイムアウト後にリクエストを再送するループは、コストを2倍にする可能性があります。このAPIでは、失敗または拒否されたリクエストには課金されないことに注意してください。
  • 貼り付けられた大きなコンテキスト。 60,000トークンのファイルをすべての呼び出しに含めるのは簡単で、忘れやすいものです。

コストを削減する方法

節約の大部分は、より安価なモデルを見つけるのではなく、送信するトークンを減らすことから得られます。

  1. もはや重要でなくなった古いチャットのターンは、切り捨てまたは要約してください。
  2. 安定した指示は、すべてのユーザーメッセージに繰り返すのではなく、1つの短いシステムメッセージにまとめてください。
  3. JSON モード(response_format: {"type":"json_object"})で構造化出力をリクエストし、データ周辺の冗長な文章に対して課金されないようにしてください。
  4. stop シーケンスを使用して、パーサーが必要とする場所で生成を終了してください。
  5. 各項目が非常に小さい場合は、小さな項目を1つのリクエストにバッチ処理してください。

効果を直接追跡できます。各レスポンスにはX-Balance-USDヘッダーが含まれ、ストリーミングレスポンスでは最後に使用状況が報告されます。このスクリプトは1回の呼び出しのコストを出力します:

from openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredlocalllm.com/v1", api_key="YOUR_API_KEY")

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Explain tokens in two sentences."}],
    max_tokens=150,
)
u = r.usage
cost = u.prompt_tokens / 1_000_000 * 0.15 + u.completion_tokens / 1_000_000 * 0.50
print(u.prompt_tokens, u.completion_tokens, round(cost, 6))

構築前に独自のコストを見積もる

代表的なリクエストのいくつかで実際のトークンをカウントし、結果に乗算します。短い関数が任意の平均サイズに対して計算を行います。

from openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredlocalllm.com/v1", api_key="YOUR_API_KEY")

def monthly_cost(requests_per_month, avg_in, avg_out):
    return requests_per_month * (avg_in * 0.15 + avg_out * 0.50) / 1_000_000

print(monthly_cost(30_000, 1000, 500))    # 12.0
print(monthly_cost(10_000, 3000, 800))    # 8.5

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Say hello."}],
    max_tokens=10,
)
print(r.usage.prompt_tokens, r.usage.completion_tokens)

典型的なプロンプトを20回試行し、usageの値を平均して関数に代入してください。これにより、汎用的な例ではなく、あなたの製品に基づいた数値が得られます。

セルフホスティング:いつ意味があるか

オープンウェイトモデルを自分で実行すると、トークンごとの料金が発生しなくなりますが、それは固定コストに置き換わります:十分なメモリを持つGPU、電気代、セットアップ時間、更新です。これらのコストは、マシンが稼働中であろうとアイドル中であろうと支払われます。セルフホスティングは、安定した大量のトラフィックがある場合や、すべてのものを自前のマシンに保持する必要がある場合に有利です。散発的な使用、スパイクのあるトラフィック、またはプロトタイプの場合、アイドル状態のAPIにはコストがかからないため、トークンごとの支払いの方がシンプルで通常は安価です。

公平な比較には独自の数値が必要です:月間のトークンボリューム、ハードウェアの価格、あなたの時間の価値です。API側には上記の式を使用し、ハードウェア側は実際の見積もりから価格を設定してください。オープンモデルの実行に関するより広い概要については、無検閲LLMチャットガイドが統合オプションをカバーしています。

このサービスの価格設定とチャージ

課金は前払いで従量制です。$20から$500の任意の整数額をチャージでき、大きなチャージにはボーナスが付加されます:$50からは+5%、$100からは+10%、$200からは+15%。$100のチャージは$110のクレジットになります。支払いは暗号資産で行います:TRC20上のUSDTまたはBase上のUSDC。クレジットは期限切れにならず、サブスクリプションもありません。

新規ユーザーは、APIキーのページでワンクリックで$0.50のトライアルクレジットを請求できます。これは7日間有効で、支払い情報の必要がなく、1人1回限りの特典です。1,000入力トークン、500出力トークンのリクエストあたり$0.0004の場合、約1,250リクエストをカバーでき、これにより何らかの支払いを行う前に独自のコストを測定するのに十分な量です。料金ページには料率が記載されており、ドキュメントにはリクエスト形式が示されています。

質問と回答

LLMメッセージ1つあたりのコストはいくらですか?

このAPIでは、1,000入力トークンと500出力トークンを持つメッセージのコストは$0.0004です。短いメッセージはより安価で、長い履歴は入力が大きくなるため、より高価になります。

LLMをローカルで実行する方が安価ですか?

安定した大量のトラフィックがある場合、またはすべてのものを自前のマシンに保持する必要がある場合にのみです。ハードウェアと電力には、使用しているかどうかにかかわらず支払いが必要ですが、APIはアイドル時にはコストがかかりません。

トークンとは何ですか?

トークンはテキストの断片で、英語の単語の約3/4に相当します。プロンプトとモデルの返信の両方がトークンでカウントされます。

失敗したリクエストに対して課金されますか?

いいえ。このAPIでは、失敗または拒否されたリクエストには課金されません。

サブスクリプションはありますか?

いいえ。$20から$500の前払いクレジットを購入でき、それは期限切れになりません。

uncensoredlocalllm.com

キーはフォーム 1 つで手に入ります

アカウントを作成し、キーをコピーし、ベースURLを変更します。これでセットアップは完了です。