LLM หนึ่งตัวมีราคาเท่าไร? คำนวณต่อโทเคนและตัวอย่าง

สามวิธีในการชำระเงินสำหรับ LLM

หากคุณกำลังสงสัยว่า LLM มีราคาเท่าไหร่ ขั้นตอนแรกคือการเลือกประเภทของต้นทุนที่คุณหมายถึง มีสามประเภท และไม่สามารถเปรียบเทียบกันได้จนกว่าจะนำมาเปรียบเทียบในมาตรฐานเดียวกัน

โมเดล	คุณจ่ายสำหรับ	รูปแบบต้นทุน
API แบบโฮสต์	โทเคนที่ส่งและรับ	เป็นศูนย์เมื่อไม่มีกิจกรรม และเพิ่มขึ้นตามการใช้งาน
การสมัครสมาชิกแชท	แผนรายเดือนสำหรับแอปแชท	ค่าธรรมเนียมคงที่ ส่วนใหญ่ไม่มีการเข้าถึง API
การโฮสต์เอง	GPU, พลังงาน, การติดตั้ง และการบำรุงรักษา	ต้นทุนคงที่สูง ต้นทุนต่อคำขอเพิ่มเติมต่ำ

บทความนี้เน้นกรณี API แบบโฮสต์ เนื่องจากเป็นกรณีที่คุณสามารถคำนวณคำตอบล่วงหน้าได้ สำหรับผู้ให้บริการรายอื่น โปรดตรวจสอบหน้าราคาปัจจุบันของพวกเขา ราคาเปลี่ยนแปลงและไม่ระบุซ้ำที่นี่

สูตรคำนวณต้นทุน API

ทุกคำขอมีด้านอินพุต (พรอมต์ ข้อความระบบ และประวัติแชทใดๆ) และด้านเอาต์พุต (สิ่งที่โมเดลเขียน) ทั้งสองด้านนับเป็นโทเคน และหนึ่งโทเคนมีขนาดประมาณสามในสี่ของคำภาษาอังกฤษ ต้นทุนคือ:

ต้นทุน = (โทเคนอินพุต / 1,000,000 x ราคาอินพุต) + (โทเคนเอาต์พุต / 1,000,000 x ราคาเอาต์พุต)

ในบริการนี้ ราคาอินพุตคือ $0.15 ต่อ 1M โทเคน และราคาเอาต์พุตคือ $0.50 ต่อ 1M โทเคน เอาต์พุตมีราคาสูงกว่าอินพุตมากกว่าสามเท่าเล็กน้อย ดังนั้นคำตอบที่ยาวจึงมีต้นทุนสูงกว่าคำถามที่ยาวมาก

นี่คือคำขอหนึ่งรายการที่ทำด้วยตนเอง พรอมต์ขนาด 1,000 โทเคน และคำตอบขนาด 500 โทเคน:

• อินพุต: 1,000 / 1,000,000 x $0.15 = $0.00015
• เอาต์พุต: 500 / 1,000,000 x $0.50 = $0.00025
• รวม: $0.0004

นั่นคือสี่ส่วนร้อยของเซ็นต์ หากขยายขนาด: คำขอ 1,000 แบบนี้คิดเป็น $0.40 และ 100,000 คำขอคิดเป็น $40

ตัวอย่างการคำนวณสำหรับงานจริง

แชทบอทสนับสนุน

สมมติว่ามีการสนทนา 10,000 ครั้งต่อเดือน แต่ละครั้งส่งอินพุต 3,000 โทเคนรวม (พรอมต์ระบบบวกกับประวัติการสนทนา) และรับเอาต์พุต 800 โทเคน อินพุต: 30M โทเคน x $0.15 ต่อ 1M = $4.50 เอาต์พุต: 8M โทเคน x $0.50 ต่อ 1M = $4.00 ยอดรวมรายเดือน: $8.50

การสรุปเอกสาร

เอกสารขนาด 50,000 โทเคนและบทสรุปขนาด 1,000 โทเคน อินพุต: 0.05M x $0.15 = $0.0075 เอาต์พุต: 0.001M x $0.50 = $0.0005 นั่นคือ $0.008 ต่อเอกสาร ดังนั้นเอกสาร 1,000 ฉบับคิดเป็น $8.00 การเติมหน้าต่างบริบทด้วยอินพุตเพียงอย่างเดียวจนเต็ม 100,000 โทเคนคิดเป็น $0.015

เซสชันบทบาทสมมติหรือเพื่อนคุยยาวๆ

พรอมต์เริ่มต้นที่ 500 โทเคนและเพิ่มขึ้น 350 โทเคนในแต่ละรอบ เนื่องจากประวัติการสนทนาจะถูกส่งใหม่ โมเดลอ่านอินพุต 76,500 โทเคนและเขียนเอาต์พุต 5,000 โทเคนในรอบ 20 รอบ อินพุต: 0.0765M x $0.15 = ประมาณ $0.0115 เอาต์พุต: 0.005M x $0.50 = $0.0025 รวมประมาณ $0.014 สำหรับการสนทนาทั้งหมด

ตัวจำแนกแบบแบทช์

อินพุต 200 โทเคนและเอาต์พุต 10 โทเคนต่อรายการ จำนวน 1 ล้านรายการ อินพุต: 200M x $0.15 ต่อ 1M = $30 เอาต์พุต: 10M x $0.50 ต่อ 1M = $5 รวม: $35 ในกรณีนี้ปริมาณงานสูง แต่ต้นทุนยังต่ำเนื่องจากเอาต์พุตมีขนาดเล็ก

งบประมาณรายเดือนที่ระดับการใช้งานสามระดับ

การใช้คำขอขนาดอินพุต 1,000 และเอาต์พุต 500 ในราคา $0.0004 ต่อครั้ง นี่คือสิ่งที่ดูเหมือนหนึ่งเดือน 30 วันเมื่อมีปริมาณการใช้งานในระดับต่างๆ

การใช้งาน	คำขอต่อวัน	คำขอต่อเดือน	ค่าใช้จ่ายรายเดือน
บอทงานอดิเรก	1,000	30,000	$12
ผลิตภัณฑ์ขนาดเล็ก	10,000	300,000	$120
บริการที่มีการใช้งานสูง	100,000	3,000,000	$1,200

ตารางขยายแบบเส้นตรง ดังนั้นหากคำขอเฉลี่ยของคุณยาวเป็นสองเท่า ต้นทุนก็เพิ่มขึ้นเป็นสองเท่า บอทงานอดิเรกยังอยู่ในขอบเขตของการเติมเงินขั้นต่ำ: $20 จ่ายสำหรับคำขอขนาดนี้ 50,000 คำขอ และเครดิตไม่หมดอายุ ดังนั้นยอดคงเหลือที่ไม่ได้ใช้ก็จะรออยู่

เหตุผลที่บิลสูงกว่าที่ประมาณการ

การประมาณการล้มเหลวในวิธีที่คาดเดาได้ ตรวจสอบสิ่งเหล่านี้ก่อนตัดสินใจว่าเครื่องมือมีราคาแพง

• ประวัติการสนทนาถูกส่งใหม่ในทุกๆ รอบ ข้อความใหม่แต่ละข้อความจะรวมข้อความก่อนหน้าทั้งหมด การแชท 50 รอบไม่ใช่คำขอเล็กๆ 50 คำขอ แต่คำขอในภายหลังจะมีขนาดใหญ่ ตัวอย่างบทบาทสมมติข้างต้นแสดงให้เห็นถึงการเติบโตนี้
• เอาต์พุตที่ละเอียด โทเคนเอาต์พุตมีราคาสูงกว่า หากคุณต้องการเพียงป้ายกำกับหรือคำตอบสั้นๆ ให้ระบุในพรอมต์และตั้งค่า max_tokens
• การลองใหม่ในโค้ดของคุณเอง ลูปที่ส่งคำขอใหม่หลังจากหมดเวลาอาจทำให้เกิดการใช้จ่ายซ้ำได้ โปรดทราบว่า API นี้ไม่คิดค่าบริการสำหรับคำขอที่ล้มเหลวหรือถูกปฏิเสธ
• บริบทขนาดใหญ่ที่วางลงไปในข้อความ การใส่ไฟล์ขนาด 60,000 โทเคนลงในทุกการเรียกใช้งานทำได้ง่ายและมักถูกลืม

วิธีลดต้นทุน

การประหยัดส่วนใหญ่เกิดจากการส่งโทเคนให้น้อยลง ไม่ใช่จากการหาโมเดลที่ราคาถูกกว่า

1. ตัดหรือสรุปบทสนทนาเก่าเมื่อไม่มีความสำคัญอีกต่อไป
2. ใส่คำสั่งที่คงที่ไว้ในข้อความระบบสั้นๆ เพียงข้อความเดียว แทนที่จะทำซ้ำในทุกข้อความของผู้ใช้
3. ขอผลลัพธ์ที่มีโครงสร้างด้วยโหมด JSON (response_format: {"type":"json_object"}) เพื่อที่คุณจะไม่เสียเงินกับข้อความบรรยายรอบๆ ข้อมูล
4. ใช้ลำดับ stop เพื่อหยุดการสร้างเมื่อตัวแยกวิเคราะห์ของคุณต้องการ
5. รวมรายการขนาดเล็กไว้ในคำขอเดียวเมื่อแต่ละรายการมีขนาดเล็กมาก

คุณสามารถติดตามผลกระทบได้โดยตรง แต่ละการตอบกลับมีเฮดเดอร์ X-Balance-USD และการตอบกลับแบบสตรีมมิงจะรายงานการใช้งานที่ส่วนท้าย สคริปต์นี้แสดงต้นทุนของการเรียกใช้งานหนึ่งครั้ง:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredlocalllm.com/v1", api_key="YOUR_API_KEY")

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Explain tokens in two sentences."}],
    max_tokens=150,
)
u = r.usage
cost = u.prompt_tokens / 1_000_000 * 0.15 + u.completion_tokens / 1_000_000 * 0.50
print(u.prompt_tokens, u.completion_tokens, round(cost, 6))

ประมาณการต้นทุนของคุณเองก่อนสร้าง

นับโทเคนจริงของคุณจากคำขอทั่วไปไม่กี่รายการ แล้วคูณผลลัพธ์ ฟังก์ชันสั้นๆ สามารถคำนวณทางคณิตศาสตร์สำหรับขนาดเฉลี่ยใดๆ ได้

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredlocalllm.com/v1", api_key="YOUR_API_KEY")

def monthly_cost(requests_per_month, avg_in, avg_out):
    return requests_per_month * (avg_in * 0.15 + avg_out * 0.50) / 1_000_000

print(monthly_cost(30_000, 1000, 500))    # 12.0
print(monthly_cost(10_000, 3000, 800))    # 8.5

r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Say hello."}],
    max_tokens=10,
)
print(r.usage.prompt_tokens, r.usage.completion_tokens)

รันพรอมต์ทั่วไป 20 ครั้งผ่านเครดิตทดลอง ใช้ค่า usage เฉลี่ย แล้วนำไปใส่ในฟังก์ชัน จะได้ตัวเลขที่สะท้อนผลิตภัณฑ์ของคุณ ไม่ใช่ตัวอย่างทั่วไป

การโฮสต์ด้วยตนเอง: เมื่อไหร่ที่สมเหตุสมผล

การรันโมเดล open-weight ด้วยตัวเองจะตัดค่าธรรมเนียมต่อโทเคนออก แต่จะแทนที่ด้วยต้นทุนคงที่: GPU ที่มีหน่วยความจำเพียงพอ ไฟฟ้า เวลาติดตั้ง และการอัปเดต ต้นทุนเหล่านี้จ่ายไม่ว่าเครื่องจะทำงานหรือว่างอยู่ การโฮสต์ด้วยตนเองมักจะชนะเมื่อคุณมีปริมาณงานสูงและต่อเนื่อง หรือมีความต้องการเข้มงวดที่จะเก็บทุกอย่างไว้บนเครื่องของคุณเอง สำหรับการใช้งานเป็นครั้งคราว การจราจรที่ผันผวน หรือโปรโตไทป์ การจ่ายตามโทเคนนั้นง่ายกว่าและมักจะถูกกว่า เพราะ API ที่ว่างอยู่ไม่มีต้นทุน

การเปรียบเทียบที่ยุติธรรมต้องการตัวเลขของคุณเอง: ปริมาณโทเคนรายเดือนของคุณ ราคาฮาร์ดแวร์ และมูลค่าเวลาของคุณ ใช้สูตรข้างต้นสำหรับฝั่ง API จากนั้นกำหนดราคาฝั่งฮาร์ดแวร์จากใบเสนอราคาจริง หากคุณต้องการภาพรวมที่กว้างขึ้นของการรันโมเดลแบบเปิดน้ำหนัก คู่มือแชท LLM ไม่เซ็นเซอร์ ครอบคลุมตัวเลือกการผสานรวม

ราคาและการเติมเงินบนบริการนี้

การเรียกเก็บเงินเป็นแบบเติมเงินล่วงหน้าและจ่ายตามการใช้งาน คุณสามารถเติมเงินจำนวนเต็มใดๆ ตั้งแต่ $20 ถึง $500 และการเติมเงินจำนวนมากขึ้นจะเพิ่มโบนัส: +5% จาก $50, +10% จาก $100 และ +15% จาก $200 การเติมเงิน $100 จะกลายเป็นเครดิต $110 การชำระเงินเป็นคริปโต: USDT บน TRC20 หรือ USDC บน Base เครดิตไม่หมดอายุ และไม่มีบริการแบบสมาชิก

ผู้ใช้ใหม่สามารถรับเครดิตทดลองใช้ฟรี $0.50 ได้ด้วยการคลิกเพียงครั้งเดียวที่หน้า คีย์ API เครดิตนี้มีอายุ 7 วัน ไม่ต้องกรอกข้อมูลการชำระเงิน และจำกัดหนึ่งต่อคน ในราคา $0.0004 ต่อคำขออินพุต 1,000 โทเคนและเอาต์พุต 500 โทเคน เครดิตนี้ครอบคลุมคำขอประมาณ 1,250 คำขอ ซึ่งเพียงพอสำหรับการวัดต้นทุนเฉลี่ยของคุณเองก่อนชำระเงิน หน้า กำหนดราคา แสดงอัตรา และหน้า เอกสาร แสดงรูปแบบคำขอ

คู่มือเพิ่มเติม

• Local LLM ที่ดีที่สุดสำหรับการเขียนโค้ด Python: API แบบ Local หรือแบบ Hosted?
• Uncensored LLM Chat: คู่มือการผสานรวมและกรณีการใช้งาน