ES ▾
Obtener clave de API

uncensoredlocalllm.comGuía

Costo de electricidad de LLM local vs. pago por token

Ejecutar un modelo en tu propia GPU no es gratis: la tarjeta consume energía real mientras genera y el PC sigue consumiendo algo en reposo. Aquí te explicamos cómo estimarlo y cuándo una API por token cuesta menos.

Actualizado

GPU isométrica conectada a un medidor de energía y monedas, ilustrando el costo de electricidad de LLM locales
Ilustración isométrica de una GPU local conectada a una nube alojada, representando la diferencia entre modelos de codificación locales y de API

Puntos clave

  • Una configuración de un solo usuario a unos 30 tokens por segundo gasta aproximadamente $0,63 en electricidad por cada 1M de tokens de salida, antes del hardware.
  • Con uso ligero, la API es más barata. Con uso diario intenso, un equipo local puede superarla solo en energía.
  • El consumo en reposo importa más de lo que la mayoría de la gente imagina cuando la PC se mantiene encendida todo el día.
  • La compra de hardware, no la electricidad, suele ser la que decide el punto de equilibrio real.

La respuesta corta

El costo de electricidad del llm local depende de tres números: cuántos vatios consume tu máquina mientras genera, cuántas horas al día genera y cuánto cobra tu proveedor por kilovatio-hora. Para un escritorio típico con una sola GPU, la cifra mensual oscila entre unos pocos dólares y unas decenas de dólares. Eso es poco en comparación con el precio del hardware, pero no es cero, y es suficiente para marcar la diferencia cuando lo comparas con pagar por token.

El cálculo a continuación utiliza suposiciones que puedes sustituir por las tuyas. El lado de la API utiliza los precios reales de este servicio: $0,15 por 1M de tokens de entrada y $0,50 por 1M de tokens de salida.

La fórmula

La electricidad es energía por precio. La energía en kilovatio-horas es la potencia en kilovatios multiplicada por horas.

monthly_kwh  = (load_kw * load_hours_per_day + idle_kw * idle_hours_per_day) * 30
monthly_cost = monthly_kwh * price_per_kwh

Usa un medidor de energía enchufable si tienes uno. Mide toda la máquina en la toma, que es lo que pagas. Leer la potencia de placa de la GPU de su hoja de especificaciones da solo una parte del panorama, porque la CPU, la memoria, los discos, los ventiladores y las pérdidas de la fuente de alimentación se suman a ello.

Para los ejemplos asumo:

  • 450 W en la toma mientras el modelo genera (una tarjeta clasificada cerca de 350 W más el resto del sistema).
  • 60 W en la toma cuando el PC está encendido pero inactivo.
  • $0,15 por kWh. Esta es una suposición. Las tarifas varían mucho según el país y la hora del día, así que sustitúyelas con el número de tu factura.
  • 30 tokens por segundo de generación para un solo usuario. Tu velocidad depende del modelo, su cuantización y la tarjeta.

Tres niveles de uso, detallados

Toma un usuario ligero, uno moderado y uno pesado. La máquina permanece encendida todo el día en cada caso, por lo que se cuentan las horas de inactividad.

UsoGeneración por díaEnergía por mesElectricidad por mesTokens de salida por mes
Ligero1 hora54.9 kWh$8,243.24M
Moderado4 horas90.0 kWh$13,5012.96M
Intenso12 horas183.6 kWh$27,5438.88M

Aquí está la fila moderada paso a paso. Generando: 4 horas × 0,45 kW son 1,8 kWh al día. Inactivo: 20 horas × 0,06 kW son 1,2 kWh al día. Total 3,0 kWh al día, es decir, 90 kWh en 30 días, que a $0,15 son $13,50. Tokens: 4 horas son 14.400 segundos, × 30 tokens por segundo son 432.000 tokens al día, o 12,96M al mes.

Observa cómo el usuario ligero paga $8,24 por solo 3.24M de tokens. La energía en reposo es la mayor parte de esa factura: 23 horas de inactividad a 60 W son 1.38 kWh al día, más del doble de los 0.45 kWh gastados en generar.

Lo que cuestan los mismos tokens a través de una API

El uso de chat envía más tokens de los que recibe, porque cada petición lleva el prompt del sistema y la conversación hasta el momento. Asume tres tokens de entrada por cada token de salida, que es una proporción plausible para chat con historial. Entonces, la factura mensual a $0,15 y $0,50 por 1M es:

UsoCosto de salidaCosto de entrada (3x tokens de salida)Total APIElectricidad local
Ligero3.24M x $0,50 = $1,629.72M x $0,15 = $1,46$3,08$8,24
Moderado12.96M x $0,50 = $6,4838.88M x $0,15 = $5,83$12,31$13,50
Pesado38.88M x $0,50 = $19,44116.64M x $0,15 = $17,50$36,94$27,54

Destacan dos cosas. Primero, por debajo de unas cuatro horas de generación al día, la API es más barata que solo la electricidad. Segundo, a doce horas al día, la máquina local gana en consumo energético, porque la parte inactiva se reduce y estás usando el silicio que ya pagaste. La cifra de la API también incluye el procesamiento de entrada, que tu GPU hace gratis en términos de dinero pero que aún consume energía. El prefill es rápido, así que lo omití en el lado local; eso favorece ligeramente a lo local.

Electricidad por millón de tokens

Una forma útil de comparar es el costo de energía por 1M de tokens de salida solo durante la generación. A 450 W y 30 tokens por segundo, un millón de tokens tardan unos 33.333 segundos, o 9.26 horas. Eso son 4.17 kWh, y a $0,15 por kWh son aproximadamente $0,63. La API cobra $0,50 por 1M de tokens de salida, con la entrada facturada por separado a $0,15.

Así, incluso antes de contar la GPU, un usuario que genera a 30 tokens por segundo gasta más en energía por token de salida que el precio de la API. La brecha se cierra solo si tu hardware es más rápido o tu energía es más barata. A 60 tokens por segundo, el mismo cálculo da unos $0,31. Con $0,08 por kWh y 30 tokens por segundo, da unos $0,33. Cualquier cambio mueve la respuesta, así que haz tus propios cálculos.

El batching es la excepción. Un servidor que maneja varias peticiones a la vez gasta mucha menos energía por token, por eso los proveedores alojados pueden ofrecer precios bajos. Un escritorio usado por una persona rara vez se beneficia de esto.

Lo que la fórmula deja fuera

  • Hardware. Una GPU que ejecuta un modelo útil cuesta mucho más que un año de la electricidad anterior. Distribuido a lo largo de su vida útil, suele dominar el total. La página sobre cuánto cuesta un LLM detalla la parte de la compra.
  • Refrigeración y ruido. En un clima cálido, el calor de 450 W también carga tu aire acondicionado. En invierno es en parte calefacción útil.
  • Modelos más grandes. Un modelo que necesita dos tarjetas duplica aproximadamente la cifra de carga.
  • Tu tiempo. Actualizar controladores, elegir cuantizaciones y corregir errores de falta de memoria es trabajo que una API elimina.

Por otro lado, un modelo local no cuesta nada por petición extra y funciona sin conexión. Si lo ejecutas muchas horas al día, eso importa.

Formas de reducir la factura local

Si te mantienes local, algunos hábitos reducen la cifra sin tocar el modelo.

  • Pon la máquina en suspensión. Pasar de 60 W en reposo todo el día a suspensión durante 16 de las 20 horas inactivas ahorra unos 29 kWh al mes en el caso moderado, aproximadamente $4,32 a $0,15.
  • Limita el límite de potencia de la GPU. Muchas tarjetas pierden poca velocidad de generación cuando el límite de potencia se reduce entre un 20 y un 30 por ciento. Prueba tu propia tarjeta, porque los resultados varían según el modelo y el controlador.
  • Usa una cuantización o modelo más pequeño para tareas rutinarias. Menos bytes por peso significa menos tráfico de memoria y a menudo una generación más rápida, lo que acorta las horas que la tarjeta está ocupada.
  • Ejecuta con una tarifa por horario de uso. Si tu compañía eléctrica cobra menos por la noche, programa trabajos por lotes para esas horas.

Verifica el ahorro de reposo: 16 horas por 0.06 kW son 0.96 kWh al día, por 30 son 28.8 kWh, por $0,15 son $4,32. Nada de esto cambia el orden de magnitud, aunque. La electricidad sigue siendo una pequeña parte del total junto con el hardware en sí.

Probando el lado de la API con números reales

Puedes verificar la estimación de la API contra tu propia carga de trabajo de forma económica. Los nuevos usuarios pueden reclamar $0,50 de crédito de prueba con un clic en la página de clave de API después de registrarse, sin necesidad de tarjeta, válido por 7 días. Envía algunas peticiones realistas y luego lee el encabezado de respuesta X-Balance-USD para ver cuánto cuestan.

curl -i https://api.uncensoredlocalllm.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Summarize the pros and cons of running an LLM at home."}]}'

Compara el saldo antes y después, escala por tu número de peticiones esperado y compáralo con tu estimación de electricidad. Las tarifas actuales y los bonos de recarga se enumeran en la página de precios, y los detalles de la petición están en la documentación.

Preguntas y respuestas

¿Cuánta electricidad consume un LLM local?

Un PC de escritorio con una sola GPU típicamente consume unos pocos cientos de vatios mientras genera y muy por debajo de 100 W en reposo. Mide en la pared con un medidor enchufable, luego multiplica por horas y tu precio por kWh.

¿El modelo permanece inactivo la mayor parte del tiempo?

Para la mayoría de las configuraciones personales, sí. El consumo en reposo puede ser mayor que la energía de generación, por lo que poner la PC en reposo entre sesiones reduce la factura.

¿Es un LLM local más barato que una API?

En uso ligero o moderado, generalmente no una vez que se cuenta la energía, y no en absoluto una vez que se incluye el hardware. En muchas horas de generación diaria puede salir adelante solo por la energía.

¿Puedo probar el costo de la API sin pagar?

Sí. El crédito de prueba de un clic de $0,50 no necesita tarjeta, y el encabezado de saldo muestra cuánto costó cada petición.

uncensoredlocalllm.com

Tu clave está a un formulario web de distancia

Crea una cuenta, copia la clave, cambia la URL base. Esa es toda la configuración.