เชื่อมต่อ API Uncensored Local LLM

Base URL และการตรวจสอบสิทธิ์

API ของเราเข้ากันได้กับ SDK ของ OpenAI อย่างสมบูรณ์ คุณเพียงอัปเดต base_url และระบุคีย์ API ของคุณ ลงทะเบียนที่หน้า รับคีย์ API เพื่อรับคีย์ของคุณทันที ไม่ต้องใช้หมายเลขโทรศัพท์หรือบัตรเครดิตเพื่อเริ่มต้นด้วยเครดิตทดลองใช้ URL พื้นฐานคือ https://api.uncensoredlocalllm.com/v1 เก็บคีย์ของคุณให้ปลอดภัย คุณสามารถสร้างคีย์ใหม่ได้ทุกเมื่อ ซึ่งจะเพิกเฉยคีย์เก่าทันที สิ่งนี้ทำให้คุณมีเอนด์พอยต์เดียวที่เสถียรสำหรับแอปพลิเคชันของคุณโดยไม่มีความซับซ้อนในการจัดการการอนุมานแบบท้องถิ่น

คำขอแรก

ทำการเรียก API ครั้งแรกโดยใช้ไคลเอนต์ HTTP ที่คุณต้องการ เอนด์พอยต์รองรับรูปแบบ chat-completions มาตรฐาน ด้านล่างคือตัวอย่าง cURL ที่แสดงคำขอพื้นฐาน แทนที่ YOUR_API_KEY ด้วยคีย์จริงของคุณ คำขอนี้ส่งพรอมต์และคาดหวังการตอบสนองข้อความ รหัสโมเดลคือ uncensored โมเดลแบบเปิดน้ำหนักนี้ได้รับการปรับแต่งเพื่อตอบโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย ให้ผลลัพธ์โดยตรงสำหรับกรณีการใช้งานของคุณ

Copycurl https://api.uncensoredlocalllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

การตอบกลับจะประกอบด้วยข้อความที่สร้างขึ้นในอาร์เรย์ choices หากคุณพบข้อผิดพลาด 401 แสดงว่าคีย์ API ของคุณไม่ถูกต้องหรือหายไป ตรวจสอบว่าคุณใช้ base URL ที่ถูกต้องและคีย์ของคุณไม่ได้ถูกเพิกเฉยหลังการสร้างใหม่

การผสาน SDK Python

ใช้ Python SDK ทางการของ OpenAI เพื่อผสานรวมอย่างรวดเร็ว กำหนดค่า base_url และ api_key ในการเริ่มต้นไคลเอนต์ วิธีนี้ช่วยให้คุณใช้วิธีการที่คุ้นเคยเช่น chat.completions.create() ได้ SDK จัดการการแปลง JSON และการขอ HTTP โดยอัตโนมัติ เหมาะสำหรับบริการแบ็กเอนด์หรือสคริปต์ที่ต้องประมวลผลข้อความปริมาณมาก โปรดจำไว้ว่า id ของโมเดลคือ uncensored ไม่ว่าคุณจะใช้อะไรก็ตาม

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredlocalllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

วิธีนี้มีประสิทธิภาพสำหรับการประมวลผลแบบแบตช์หรือเมื่อคุณต้องการจัดการตรรกะการตอบสนองใน Python ตรวจสอบให้แน่ใจว่าสภาพแวดล้อมของคุณมีแพ็คเกจ openai ติดตั้งแล้ว SDK รองรับทั้งการดำเนินการแบบซิงโครนัสและอะซิงโครนัส ซึ่งเหมาะกับความต้องการทางสถาปัตยกรรมที่หลากหลาย

การผสาน SDK Node

สำหรับสภาพแวดล้อม JavaScript หรือ TypeScript SDK Node ของ OpenAI ให้ประสบการณ์ที่คล้ายกัน เริ่มต้นไคลเอนต์ด้วย Base URL และคีย์ API ของคุณ สิ่งนี้มีประโยชน์เป็นพิเศษสำหรับเว็บแอปพลิเคชันหรือฟังก์ชันแบบไร้เซิร์ฟเวอร์ SDK หักล้างรายละเอียด HTTP ทำให้คุณสามารถมุ่งเน้นไปที่ตรรกะแอปพลิเคชัน คุณสามารถเรียกเอนด์พอยต์การเติมเต็มด้วยโครงสร้างเดียวกันกับบริการที่เข้ากันได้กับ OpenAI อื่นๆ

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.uncensoredlocalllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

ใช้การผสานนี้สำหรับอินเทอร์เฟซเว็บแบบเรียลไทม์หรือไมโครเซอร์วิส Node.js SDK รองรับแพทเทิร์น Promise และ async/await ทำให้การจัดการข้อผิดพลาดเป็นเรื่องง่าย ตรวจสอบให้แน่ใจว่าคุณจัดการข้อผิดพลาดของเครือข่ายได้อย่างเหมาะสม โดยเฉพาะในระบบแบบกระจาย

การตอบสนองแบบสตรีมมิง

เปิดใช้งานสตรีมมิงโดยตั้งค่า stream: true ในการขอของคุณ สิ่งนี้ช่วยให้คุณได้รับคำตอบบางส่วนเมื่อมันถูกสร้างขึ้น ซึ่งช่วยปรับปรุงเวลาแฝงที่ผู้ใช้รู้สึก API รองรับ Server-Sent Events (SSE) สำหรับสตรีมมิง สิ่งนี้สำคัญสำหรับอินเทอร์เฟซแชทที่คาดหวังการตอบกลับทันที การสตรีมมิงไม่ส่งผลต่อคุณภาพเอาต์พุตหรือหน้าต่างบริบทของโมเดล

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

จัดการเหตุการณ์สตรีมมิงในโค้ดไคลเอนต์ของคุณ แต่ละชิ้นมีสัดส่วนของการตอบสนองสุดท้าย รวมชิ้นเหล่านี้เพื่อสร้างข้อความเต็มรูปแบบ วิธีนี้ทำงานได้อย่างราบรื่นกับ SDK ของ OpenAI ทั้งใน Python และ Node.js

ขีดจำกัดอัตรา ข้อผิดพลาด และหน้าต่างบริบท

API กำหนดขีดจำกัด 300 คำขอต่อนาทีต่อคีย์ ขนาดร่างกายคำขอสูงสุดคือ 8 MB คุณจะได้รับข้อผิดพลาด 429 หากเกินขีดจำกัดอัตรา ข้อผิดพลาด 402 บ่งชี้ว่าเครดิตแบบเติมเงินล่วงหน้าไม่เพียงพอ ตรวจสอบให้แน่ใจว่าคุณติดตามการใช้งานและเติมเงินบัญชีผ่านแดชบอร์ด เครดิตไม่หมดอายุ และคุณสามารถจ่ายด้วยคริปโต (USDT หรือ USDC)

หน้าต่างบริบทคือ 100,000 โทเคน ซึ่งครอบคลุมทั้งพรอมต์และการตอบกลับ สิ่งนี้ทำให้สามารถสนทนาที่ยาวนานหรือประมวลผลเอกสารขนาดใหญ่ได้ หากเกินขีดจำกัด API จะปฏิเสธคำขอ id ของโมเดลคือ uncensored และรองรับการเรียกใช้เครื่องมือ/ฟังก์ชันสำหรับความสามารถที่ขยายเพิ่มเติม