Integrasikan API Uncensored Local LLM

URL Dasar dan Autentikasi

API kami sepenuhnya kompatibel dengan SDK OpenAI. Anda hanya perlu memperbarui base_url dan menyediakan kunci API Anda. Daftar di halaman Dapatkan kunci API untuk menerima kunci Anda secara instan. Tidak diperlukan nomor telepon atau kartu kredit untuk memulai dengan kredit uji coba. Base URL adalah https://api.uncensoredlocalllm.com/v1. Jaga kunci Anda dengan aman; Anda dapat membuat ulang kunci tersebut kapan saja, yang secara instan mencabut kunci lama. Ini memastikan Anda selalu memiliki endpoint tunggal yang stabil untuk aplikasi Anda tanpa kompleksitas manajemen inferensi lokal.

Permintaan Pertama

Lakukan panggilan API pertama Anda menggunakan klien HTTP pilihan Anda. Endpoint ini mendukung format chat-completions standar. Di bawah ini adalah contoh cURL yang menunjukkan permintaan dasar. Ganti YOUR_API_KEY dengan kunci Anda yang sebenarnya. Permintaan ini mengirimkan prompt dan mengharapkan respons teks. ID model adalah uncensored. Model bobot terbuka ini disetel untuk menjawab tanpa penolakan konten untuk penggunaan dewasa yang sah, memberikan output langsung untuk kasus penggunaan Anda.

Copycurl https://api.uncensoredlocalllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Respons akan berisi teks yang dihasilkan dalam array choices. Jika Anda mengalami kesalahan 401, kunci API Anda tidak valid atau hilang. Pastikan Anda menggunakan URL dasar yang benar dan bahwa kunci Anda belum dicabut setelah pembuatan ulang.

Integrasi SDK Python

Gunakan SDK Python OpenAI resmi untuk integrasi cepat. Atur base_url dan api_key dalam inisialisasi klien Anda. Pendekatan ini memungkinkan Anda menggunakan metode yang sudah familiar seperti chat.completions.create(). SDK menangani serialisasi JSON dan permintaan HTTP secara otomatis. Ini sangat ideal untuk layanan backend atau skrip yang perlu memproses jumlah teks besar. Ingatlah bahwa ID model tetap uncensored terlepas dari versi SDK yang Anda gunakan.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredlocalllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Metode ini efisien untuk pemrosesan batch atau ketika Anda perlu menangani logika respons di Python. Pastikan lingkungan Anda memiliki paket openai yang terinstal. SDK mendukung operasi sinkron dan asinkron, sesuai dengan berbagai kebutuhan arsitektur.

Integrasi SDK Node

Untuk lingkungan JavaScript atau TypeScript, SDK Node OpenAI memberikan pengalaman yang serupa. Inisialisasi klien dengan base URL dan kunci API Anda. Ini sangat berguna untuk aplikasi web atau fungsi serverless. SDK mengabstraksi detail HTTP, memungkinkan Anda fokus pada logika aplikasi. Anda dapat memanggil endpoint completions dengan struktur yang sama dengan layanan yang kompatibel dengan OpenAI lainnya.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.uncensoredlocalllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Gunakan integrasi ini untuk antarmuka web waktu nyata atau mikro layanan Node.js. SDK mendukung pola janji dan async/await, membuat penanganan kesalahan menjadi sederhana. Pastikan Anda menangani kesalahan jaringan potensial secara halus, terutama dalam sistem terdistribusi.

Respons Streaming

Aktifkan streaming dengan mengatur stream: true dalam permintaan Anda. Ini memungkinkan Anda menerima respons parsial saat dihasilkan, meningkatkan latensi yang dirasakan bagi pengguna. API mendukung Server-Sent Events (SSE) untuk streaming. Ini sangat penting untuk antarmuka obrolan di mana umpan balik segera diharapkan. Streaming tidak memengaruhi kualitas output model atau jendela konteks.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Tangani peristiwa stream dalam kode klien Anda. Setiap bagian berisi sebagian dari respons akhir. Kumpulkan bagian-bagian ini untuk membangun kembali pesan lengkap. Pendekatan ini bekerja dengan mulus dengan SDK OpenAI di Python dan Node.js.

Batas Laju, Kesalahan, dan Jendela Konteks

API memberlakukan batas 300 permintaan per menit per kunci. Ukuran badan permintaan maksimum adalah 8 MB. Anda akan menerima error 429 jika melebihi batas laju. Error 402 menunjukkan saldo prabayar tidak mencukupi. Pastikan Anda memantau penggunaan Anda dan mengisi saldo akun melalui dasbor. Saldo tidak kedaluwarsa, dan Anda dapat membayar dengan kripto (USDT atau USDC).

Jendela konteks adalah 100.000 token, mencakup prompt dan completion. Hal ini memungkinkan percakapan yang panjang atau pemrosesan dokumen besar. Jika Anda melebihi batas, API akan menolak permintaan. ID model adalah uncensored, dan mendukung pemanggilan fungsi/alat untuk kemampuan yang lebih luas.