AR ▾
احصل على مفتاح API

uncensoredlocalllm.comدليل

تكلفة الكهرباء لنموذج LLM المحلي مقابل الدفع حسب الرمز

تشغيل نموذج على وحدة معالجة الرسومات الخاصة بك ليس مجانيًا: تستهلك البطاقة طاقة حقيقية أثناء التوليد ويواصل الكمبيوتر سحب بعض الطاقة عند الخمول. إليك كيفية تقدير ذلك ومتى تكون واجهة برمجة التطبيقات بالدفع حسب الرمز أقل تكلفة.

تم التحديث

وحدة معالجة رسومات معزولة متصلة بمقياس طاقة وعملات نقدية، توضح تكلفة الكهرباء لنماذج LLM المحلية
رسم توضيحي متساوي الأبعاد لوحدة معالجة رسومات محلية متصلة بسحابة مستضافة، يمثل نماذج البرمجة المحلية مقابل واجهة برمجة API

نقاط رئيسية

  • تستهلك إعدادات المستخدم الواحد، التي تعمل بسرعة حوالي 30 رمزًا في الثانية، حوالي $0.63 من الكهرباء لكل 1M رمز مُنتَج، قبل حساب الأجهزة.
  • في الاستخدام الخفيف تكون واجهة برمجة التطبيقات أرخص. في الاستخدام اليومي الثقيل يمكن أن يتفوق الجهاز المحلي عليها في الكهرباء وحدها.
  • استهلاك الخمول مهم أكثر مما يتوقع معظم الناس عندما يبقى الكمبيوتر قيد التشغيل طوال اليوم.
  • شراء العتاد، وليس الكهرباء، هو الذي يقرر عادة نقطة التعادل الحقيقية.

الإجابة المختصرة

تعتمد تكلفة الكهرباء لتشغيل نموذج LLM محلي على ثلاثة أرقام: عدد الواط الذي يستهلكها جهازك أثناء التوليد، عدد الساعات التي يعمل فيها الجهاز يوميًا، وسعر الكهرباء لكل كيلوواط ساعة. بالنسبة لجهاز سطح المكتب الذي يحتوي على بطاقة رسومية واحدة نموذجية، تتراوح التكلفة الشهرية بين بضعة دولارات وعدة عشرات من الدولارات. هذا مبلغ ضئيل مقارنة بسعر العتاد، لكنه ليس صفرًا، وهو كبير بما يكفي ليؤثر عند مقارنته بالدفع مقابل كل رمز.

يستخدم الحساب أدناه افتراضات يمكنك استبدالها ببياناتك الخاصة. يستخدم جانب الـ API الأسعار الحقيقية لهذه الخدمة: $0.15 لكل مليون رمز مدخل و $0.50 لكل مليون رمز مخرج.

المعادلة

الكهرباء هي الطاقة مضروبة في السعر. الطاقة بالكيلوواط ساعة هي القدرة بالكيلوواط مضروبة في الساعات.

monthly_kwh  = (load_kw * load_hours_per_day + idle_kw * idle_hours_per_day) * 30
monthly_cost = monthly_kwh * price_per_kwh

استخدم مقياس طاقة قابس إذا كان لديك واحد. يقيس المقياس الجهاز بأكمله من المقبس، وهو ما تدفع ثمنه. قراءة القدرة الاسمية لبطاقة الرسومات من ورقة المواصفات تعطي صورة غير كاملة، لأن وحدة المعالجة المركزية والذاكرة ومحركات الأقراص والمراوح وخسائر مصدر الطاقة تضيف إلى ذلك.

بالنسبة للأمثلة، أفترض:

  • 450 واط من المقبس الكهربائي أثناء توليد النموذج (بطاقة بقدرة 350 واط تقريباً بالإضافة إلى بقية النظام).
  • 60 واط من المقبس الكهربائي عندما يكون الكمبيوتر قيد التشغيل ولكن في وضع الخمول.
  • $0.15 لكل كيلوواط ساعة. هذا افتراض. تختلف الأسعار بشكل كبير حسب البلد ووقت اليوم، لذا استبدلها بالرقم الموجود في فاتورتك.
  • 30 رمز في الثانية من التوليد لمستخدم واحد. تعتمد سرعتك على النموذج وتكميمه والبطاقة.

ثلاثة مستويات استخدام، محسوبة

خذ مستخدماً خفيفاً، ومستخدماً متوسطاً، ومستخدمًا ثقيلًا. يبقى الجهاز قيد التشغيل طوال اليوم في كل حالة، لذا تُحسب ساعات الخمول.

الاستخدامالتوليد يومياًالطاقة شهرياًالكهرباء شهرياًالرموز المخرجة في الشهر
خفيف1 ساعة54.9 كيلوواط ساعة$8.243.24M
متوسط4 ساعات90.0 كيلوواط ساعة$13.5012.96M
ثقيل12 ساعة183.6 كيلوواط ساعة$27.5438.88 مليون

إليك حساب الصف المتوسط خطوة بخطوة. التوليد: 4 ساعات × 0.45 كيلوواط = 1.8 كيلوواط ساعة يومياً. الخمول: 20 ساعة × 0.06 كيلوواط = 1.2 كيلوواط ساعة يومياً. المجموع 3.0 كيلوواط ساعة يومياً، أي 90 كيلوواط ساعة خلال 30 يوماً، وهو ما يعادل $13.50 عند سعر $0.15. الرموز: 4 ساعات = 14,400 ثانية × 30 رمزاً في الثانية = 432,000 رمز يومياً، أو 12.96M رمز شهرياً.

لاحظ أن المستخدم الخفيف يدفع $8.24 مقابل 3.24M رمز فقط. يمثل استهلاك الخمول معظم فاتورة الكهرباء: 23 ساعة خمول عند 60 واط = 1.38 كيلوواط ساعة يومياً، وهو أكثر من ضعف الـ 0.45 كيلوواط ساعة المستهلكة في التوليد.

تكلفة نفس الرموز عبر API

يتم إرسال رموز أكثر في المحادثات مما يتم استقباله، لأن كل طلب يحمل موجّه النظام والمحادثات السابقة. افترض أن هناك ثلاثة رموز مدخلة لكل رمز مخرج، وهو نسبة معقولة للمحادثات مع السجل. ثم تكون فاتورة كل شهر عند $0.15 و$0.50 لكل مليون رمز كالتالي:

الاستخدامتكلفة المخرجاتتكلفة المدخلات (3 أضعاف الرموز المخرجة)إجمالي APIكهرباء محلية
خفيف3.24 مليون × $0.50 = $1.629.72 مليون × $0.15 = $1.46$3.08$8.24
متوسط12.96 مليون × $0.50 = $6.4838.88 مليون × $0.15 = $5.83$12.31$13.50
ثقيل38.88 مليون × $0.50 = $19.44116.64 مليون × $0.15 = $17.50$36.94$27.54

شيئان يبرزان. أولاً، إذا كان وقت التوليد أقل من أربع ساعات يومياً، فإن API أرخص من تكلفة الكهرباء وحدها. ثانياً، عند اثنتي عشرة ساعة يومياً، تتفوق الأجهزة المحلية في استهلاك الطاقة، لأن حصة الخمول تتقلص وتستخدم الشرائح التي دفعت ثمنها بالفعل. تتضمن حسابات API أيضاً معالجة المدخلات، والتي تقوم بها وحدة معالجة الرسومات مجاناً من الناحية النقدية لكنها تستهلك طاقة. عملية التجهيز المسبق سريعة، لذا استبعدتها من الحساب المحلي؛ مما يفضل الأجهزة المحلية قليلاً.

الكهرباء لكل مليون رمز

طريقة مفيدة للمقارنة هي تكلفة الطاقة لكل مليون رمز مخرج أثناء التوليد فقط. عند 450 واط و30 رمزاً في الثانية، يستغرق مليون رمز حوالي 33,333 ثانية، أو 9.26 ساعة. هذا يعادل 4.17 كيلوواط ساعة، والتي تبلغ حوالي $0.63 عند سعر $0.15 للكيلوواط ساعة. يفرض API سعر $0.50 لكل مليون رمز مخرج، مع حساب المدخلات بشكل منفصل بسعر $0.15.

لذلك، حتى قبل حساب تكلفة وحدة معالجة الرسومات، فإن المستخدم الذي يولد بسرعة 30 رمزاً في الثانية ينفق أكثر على الطاقة لكل رمز مخرج مما تدفعه API. لا يتقلص الفارق إلا إذا كانت أجهزتك أسرع أو كانت الكهرباء أرخص. عند 60 رمزاً في الثانية، تعطي نفس الحساب حوالي $0.31. عند سعر $0.08 للكيلوواط ساعة و30 رمزاً في الثانية، تعطي حوالي $0.33. أي تغيير في هذين العاملين يغير النتيجة، لذا قم بحساباتك الخاصة.

التجميع هو الاستثناء. الخادم الذي يعالج عدة طلبات في وقت واحد يستهلك طاقة أقل بكثير لكل رمز، وهو السبب في قدرة مزودي الخدمات المستضافين على خفض الأسعار. نادراً ما تستفيد أجهزة سطح المكتب المستخدمة من قبل شخص واحد من ذلك.

ما تتركه الصيغة خارجاً

  • الأجهزة. تكلف وحدة معالجة الرسومات التي تشغل نموذجاً مفيداً أكثر بكثير من سنة من الكهرباء المذكورة أعلاه. عند توزيع التكلفة على عمرها الافتراضي، فإنها تهيمن عادةً على التكلفة الإجمالية. يشرح الرابط كم يكلف نموذج لغة كبير جانب الشراء.
  • التبريد والضجيج. في المناخ الحار، يضيف الحرارة الناتجة عن 450 واط عبئاً إضافياً على نظام التكييف. في الشتاء، يكون هذا الحرارة مفيداً جزئياً للتدفئة.
  • النماذج الأكبر. النموذج الذي يحتاج إلى بطاقتين يضاعف تقريباً رقم الحمل.
  • وقتك. تحديث برامج التشغيل، واختيار الكميات (quantizations)، وإصلاح أخطاء نفاد الذاكرة (out-of-memory) هي مهام تشكّل عملاً يزيله الـ API.

من جهة أخرى، لا يكلف النموذج المحلي شيئاً لكل طلب إضافي ويعمل دون اتصال. إذا كنت تشغّله لساعات طويلة يومياً، فهذا الأمر مهم.

طرق خفض فاتورة التشغيل المحلي

إذا التزمت بالتشغيل المحلي، فإن بعض العادات تقلل التكلفة دون المساس بالنموذج.

  • إراحة الجهاز. الانتقال من استهلاك 60 واط في حالة الخمول طوال اليوم إلى وضع السكون لمدة 16 ساعة من أصل 20 ساعة خمول يوفر حوالي 29 كيلوواط ساعة شهرياً في الحالة المعتدلة، أي ما يعادل $4.32 بسعر $0.15.
  • حدد حد طاقة كارت الشاشة (GPU). تفقد العديد من البطاقات سرعة توليد قليلة عند خفض حد الطاقة بنسبة 20 إلى 30 في المئة. اختبر بطاقتك الخاصة، لأن النتائج تختلف حسب النموذج وبرامج التشغيل.
  • استخدام كمية (quantization) أو نموذج أصغر للمهام الروتينية. عدد أقل من البايتات لكل وزن يعني حركة بيانات ذاكرة أقل وتوليداً أسرع في كثير من الأحيان، مما يقلل من عدد الساعات التي يكون فيها كارت الشاشة مشغولاً.
  • شغّل وفق تعرفة الوقت حسب الاستخدام. إذا كانت شركة المرافق تفرض تعرفة أقل في الليل، جدول مهام الدفعات (batch jobs) لتلك الساعات.

تحقق من توفير وضع السكون: 16 ساعة مضروبة في 0.06 كيلوواط تساوي 0.96 كيلوواط ساعة يومياً، مضروبة في 30 تساوي 28.8 كيلوواط ساعة، مضروبة في $0.15 تساوي $4.32. لا يغير هذا من ترتيب الأرقام، رغم ذلك. يبقى استهلاك الكهرباء جزءاً صغيراً من التكلفة الإجمالية مقارنة بالأجهزة نفسها.

اختبار جانب الـ API بأرقام حقيقية

يمكنك التحقق من تقدير الـ API مقابل عبء العمل الخاص بك بتكلفة منخفضة. يمكن للمستخدمين الجدد الحصول على رصيد تجريبي مجاني بقيمة $0.50 بنقرة واحدة على صفحة مفتاح API بعد إنشاء الحساب، دون الحاجة إلى بطاقة، صالح لمدة 7 أيام. أرسل بضع طلبات واقعية، ثم اقرأ رأس الاستجابة X-Balance-USD لمعرفة تكلفتها.

curl -i https://api.uncensoredlocalllm.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Summarize the pros and cons of running an LLM at home."}]}'

قارن الرصيد قبل وبعد، اضربه في عدد الطلبات المتوقع إرسالها، ثم قارنه بتقدير استهلاك الكهرباء. تُدرج الأسعار الحالية ومكافآت الشحن في صفحة الأسعار، وتفاصيل الطلبات في الوثائق.

أسئلة وأجوبة

كم يستهلك LLM المحلي من الكهرباء؟

يستهلك سطح المكتب الذي يحتوي على وحدة معالجة رسومات (GPU) بضع مئات من الواط أثناء التوليد وأقل من 100 واط في حالة الخمول. قس الاستهلاك عند نقطة التوصيل باستخدام مقياس قابس، ثم اضربه في عدد الساعات وسعرك لكل كيلوواط ساعة.

هل يبقى النموذج خاملًا معظم الوقت؟

بالنسبة لمعظم الإعدادات الشخصية، نعم. يمكن أن يكون استهلاك الخمول أكبر من طاقة التوليد، لذا فإن وضع جهاز الكمبيوتر في وضع السكون بين الجلسات يقلل الفاتورة.

هل LLM المحلي أرخص من الـ API؟

في حالات الاستخدام الخفيفة أو المعتدلة، عادة لا، بمجرد احتساب الكهرباء، وليس على الإطلاق بمجرد احتساب الأجهزة. في ساعات التوليد اليومية الكثيرة، قد يتفوق من حيث استهلاك الكهرباء وحده.

هل يمكنني اختبار تكلفة الـ API دون دفع؟

نعم. رصيد التجربة بنقرة واحدة بقيمة $0.50 لا يحتاج إلى بطاقة، ويظهر رأس الرصيد تكلفة كل طلب.

uncensoredlocalllm.com

مفتاحك على بُعد استمارة واحدة

أنشئ حساباً، وانسخ المفتاح، ثم غيّر عنوان URL الأساسي. هذه هي الإعدادات الكاملة.