JA ▾
API キーを取得

uncensoredlocalllm.comガイド

ローカル LLM の電気代 vs トークン課金

自分の GPU でモデルを実行しても無料ではありません。生成中は実際に電力を消費し、アイドル時にも PC は電力を消費し続けます。ここではその見積もり方と、トークン課金 API の方が安くなる場合を解説します。

更新日:

電力メーターとコインに接続されたアイソメトリックな GPU、ローカル LLM の電気代を示すイラスト
ローカルGPUがホストクラウドに接続する等角イラスト。ローカルとAPIのコーディングモデルを表す

主要ポイント

  • 1秒あたり約 30 トークンを生成する単一ユーザー環境では、ハードウェアコストを除き、出力トークン 100 万個あたり約 $0.63 の電気代がかかります。
  • 軽度使用では API の方が安くなります。毎日大量に使用する場合、電力コストだけでローカル環境が勝る可能性があります。
  • PC を一日中稼働させる場合、アイドル時の電力消費は多くの人が予想する以上に重要です。
  • 実際の損益分岐点は、電気代ではなくハードウェアの購入で決まることが多いです。

短い答え

ローカル LLM の電気代は3つの数値に依存します:生成時の消費ワット数、1日の生成時間、および kWh 単価です。一般的な単一 GPU デスクトップでは、月額は数ドルから数十ドルの範囲になります。これはハードウェア価格に比べれば小さいですが、ゼロではなく、トークン課金と比較する際には無視できない金額です。

以下の計算では、ご自身の環境に合わせて変更できる仮定を使用しています。API 側はこのサービスの実際の価格を使用しています:入力トークン 1M あたり $0.15、出力トークン 1M あたり $0.50 です。

数式

電気代はエネルギー量に単価を掛けたものです。エネルギー(kWh)は電力(kW)に時間(時間)を掛けたものです。

monthly_kwh  = (load_kw * load_hours_per_day + idle_kw * idle_hours_per_day) * 30
monthly_cost = monthly_kwh * price_per_kwh

コンセント型電力メーターをお持ちの場合はそれを使用してください。これは壁のコンセントから測定するため、請求される全体の電力が計測されます。GPU の定格消費電力のみを見ると、CPU、メモリ、ドライブ、ファン、電源の損失などが加算されるため、全体像の一部しか見えません。

例では以下の仮定を使用します:

  • モデル生成時の壁コンセントから450 W(定格 350 W 程度のカードとシステム他の合計)。
  • PC 稼働時(アイドル時)の壁コンセントから60 W。
  • kWhあたり$0.15。これは仮定です。国や時間帯によって料金は大きく異なるため、この値は請求書の数字に置き換えてください。
  • 単一ユーザーの生成速度30 トークン/秒。速度はモデル、量子化、およびカードの種類に依存します。

3つの使用レベルでの計算例

軽度、中程度、重度のユーザーを想定します。いずれの場合も機械は一日中稼働するため、アイドル時間の電力も計算に含まれます。

使用1日の生成量月のエネルギー消費量月の電気代月間出力トークン数
軽度1 時間54.9 kWh$8.243.24M
中程度4 時間90.0 kWh$13.5012.96M
重度12 時間183.6 kWh$27.5438.88M

中程度の行の計算手順です。生成:4時間 × 0.45 kW = 1日 1.8 kWh。アイドル:20時間 × 0.06 kW = 1日 1.2 kWh。合計 1日 3.0 kWh、30日で 90 kWh。$0.15/kWh で $13.50 です。トークン:4時間は 14,400秒、1秒あたり 30トークンで 1日 432,000トークン、月で 12.96M トークンになります。

軽度ユーザーは 3.24M トークンに対して $8.24 を支払っている点に注目してください。その料金の大部分はアイドル電力です:1日 23時間 × 60 W = 1.38 kWh は、生成に費やした 0.45 kWh の2倍以上です。

同じトークンを API で取得した場合のコスト

チャット利用では、システムプロンプトとこれまでの会話履歴が各リクエストに含まれるため、入力されるトークン数が出力されるトークン数よりも多くなります。履歴付きチャットで妥当な比率として、出力トークン1つあたり入力トークン3つを想定してください。その場合、月ごとの請求額は100万トークンあたり$0.15と$0.50で次のようになります:

使用出力コスト入力コスト(出力トークンの3倍)API 合計ローカル電気代
軽度3.24M x $0.50 = $1.629.72M x $0.15 = $1.46$3.08$8.24
中程度12.96M x $0.50 = $6.4838.88M x $0.15 = $5.83$12.31$13.50
重度38.88M x $0.50 = $19.44116.64M x $0.15 = $17.50$36.94$27.54

2つの重要な点があります。第一に、1日あたり約4時間以下の生成では、API の方が電気代よりも安くなります。第二に、1日12時間の場合、アイドル比率が縮小し、すでに購入したシリコンを使用するため、電力コストだけでローカル環境が勝ります。API の計算には入力処理も含まれていますが、これは GPU では現金コストはかからず、エネルギー消費のみが発生します。プレフィルは高速なのでローカル側では除外しましたが、これによりローカル側がわずかに有利になります。

百万トークンあたりの電気代

比較に有用な方法は、生成時の出力トークン 100 万個あたりのエネルギーコストです。450 W および 1秒あたり 30トークンの場合、100万トークンの生成には約 33,333秒(9.26時間)かかります。これは 4.17 kWh に相当し、$0.15/kWh で約$0.63です。API は出力トークン 100 万個あたり $0.50 を請求し、入力は別途 $0.15 で請求されます。

つまり、GPU のコストを考慮する前に、1秒あたり 30トークンを生成する単一ユーザーは、出力トークンあたりの電力コストが API 価格よりも高くなります。ハードウェアが高速、または電力が安価な場合にのみ、この差は縮まります。1秒あたり 60トークンの場合、同じ計算で約 $0.31 になります。$0.08/kWh および 1秒あたり 30トークンの場合、約 $0.33 になります。どちらの変更も結果に影響するため、ご自身の数値で計算してください。

バッチ処理は例外です。一度に複数のリクエストを処理するサーバーはトークンあたりのエネルギー消費が大幅に抑えられるため、ホスト型プロバイダーは低価格で提供できます。一方、単一のユーザーが使用するデスクトップ環境では、この恩恵はあまりありません。

計算式で考慮されていない要素

  • ハードウェア。 有用なモデルを実行できるGPUは、上記の電気代よりもはるかに高価です。その寿命で均すと、総コストの大部分を占めるのが一般的です。LLMのコストはいくらのページでは、購入側のコストについて詳しく解説しています。
  • 冷却とノイズ。 暑い気候では、450 Wの熱がエアコンの負荷にもなります。一方、冬場は部分的に暖房として有効に働きます。
  • より大きなモデル。 2枚のカードを必要とするモデルは、負荷の目安をほぼ2倍にします。
  • あなたの時間。 ドライバーの更新、量子化の選択、メモリ不足エラーの修正は作業であり、APIを利用すればこれらが不要になります。

一方で、ローカルモデルは追加のリクエストごとにコストがかからず、オフラインでも動作します。1日中長時間実行する場合は、これが重要になります。

ローカル環境のコストを削減する方法

ローカル環境を維持する場合、モデルを変更せずにコストを抑えるためのいくつかの習慣があります。

  • マシンをスリープさせる。 1日中アイドル状態で60 W消費するのを、20時間のうち16時間をスリープ状態にすることで、標準的なケースでは月約29 kWh、約$4.32($0.15/kWhの場合)の節約になります。
  • GPUの電力制限を制限する。 電力制限を20〜30%下げても、多くのカードは生成速度をほとんど落とさずに済みます。モデルやドライバーによって結果が異なるため、自分のカードでテストしてください。
  • 定型タスクには量子化の小さいモデルや、より小さなモデルを使用する。 重みあたりのバイト数が少ないほどメモリトラフィックが少なく、生成が速くなる傾向があり、GPUが稼働する時間を短縮できます。
  • 時間帯別料金で実行する。 夜間など電力料金が安い場合は、バッチジョブをその時間帯にスケジュールしてください。

スリープによる節約を確認しましょう:16時間 × 0.06 kW = 1日あたり0.96 kWh、30日で28.8 kWh、$0.15/kWhで$4.32となります。ただし、これでは桁が変わるほどの影響はありません。電気代は、ハードウェアそのものに対して全体コストにおいて小さな部分です。

実際の数値でAPI側を試す

APIの見積もりを自分のワークロードで低コストで確認できます。新規ユーザーは、登録後にAPIキーページでワンクリックで$0.50の無料トライアルクレジットを取得できます(カード不要、有効期限7日)。いくつかの実用的なリクエストを送信し、X-Balance-USDレスポンスヘッダーを確認して、それらのコストを確認してください。

curl -i https://api.uncensoredlocalllm.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Summarize the pros and cons of running an LLM at home."}]}'

前後の残高を比較し、予想されるリクエスト数でスケーリングして、電気代の見積もりと比較してください。現在のレートとチャージボーナスは料金ページに記載されており、リクエストの詳細はドキュメントで確認できます。

質問と回答

ローカルLLMはどのくらいの電力を使用しますか?

単一GPUのデスクトップは、生成中は数百ワット、アイドル時は100 Wを大幅に下回る電力を消費するのが一般的です。プラグインメーターで壁からの電力を測定し、時間数とkWhあたりの単価を掛け算してください。

モデルは多くの時間アイドル状態になっていますか?

ほとんどの個人向けセットアップでは、その通りです。アイドル時の消費電力は生成時のエネルギーよりも大きくなるため、セッション間にPCをスリープ状態にすることで請求額を削減できます。

ローカルLLMはAPIよりも安いですか?

軽度または中程度の使用では、電力代を考慮すると通常は安くならず、ハードウェア代を含めると全く安くなりません。毎日長時間生成する場合は、電力代だけで見るとローカルのほうが安くなる可能性があります。

支払いなしでAPIのコストをテストできますか?

はい。ワンクリックの試用クレジット$0.50にはカードは不要で、残高ヘッダーで各リクエストのコストがわかります。

uncensoredlocalllm.com

キーはフォーム 1 つで手に入ります

アカウントを作成し、キーをコピーし、ベースURLを変更します。これでセットアップは完了です。