Uncensored Local LLM API'sini entegre edin

Temel URL ve Kimlik Doğrulama

API'miz OpenAI SDK'larıyla tam uyumludur. base_url değerini güncellemeniz ve API anahtarınızı sağlamanız yeterlidir. Anahtarınızı hemen almak için API anahtarı al sayfasında kaydolun. Deneme kredisi ile başlamak için telefon numarası veya kredi kartı gerekmez. Temel URL https://api.uncensoredlocalllm.com/v1 şeklindedir. Anahtarınızı güvende tutun; istediğiniz zaman yenileyebilir, böylece eski anahtarı anında geçersiz kılabilirsiniz. Bu, yerel çıkarım yönetiminin karmaşıklığı olmadan uygulamalarınız için tek ve stabil bir uç nokta sağlar.

İlk İstek

Tercih ettiğiniz HTTP istemcisini kullanarak ilk API çağrınızı yapın. Uç nokta standart chat-completions formatını destekler. Aşağıda temel bir istek gösteren bir cURL örneği yer almaktadır. YOUR_API_KEY yerine gerçek anahtarınızı girin. Bu istek bir istem gönderir ve metin yanıtı bekler. Model kimliği uncensored şeklindedir. Bu açık ağırlıklı model, yasal yetişkin kullanım için içerik reddetmeleri olmadan yanıt verecek şekilde ayarlanmıştır ve kullanım durumunuz için doğrudan çıktılar sağlar.

Copycurl https://api.uncensoredlocalllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Yanıt, choices dizisi içinde oluşturulan metni içerecektir. Bir 401 hatası alırsanız API anahtarınız geçersiz veya eksiktir. Doğru temel URL'yi kullandığınızdan ve anahtarınızı yenileme sonrası iptal edilmediğinden emin olun.

Python SDK Entegrasyonu

Hızlı entegrasyon için resmi OpenAI Python SDK'sını kullanın. İstemci başlatmasında base_url ve api_key değerlerini ayarlayın. Bu yaklaşım, chat.completions.create() gibi tanıdık yöntemleri kullanmanıza olanak tanır. SDK, JSON serileştirmesini ve HTTP isteklerini otomatik olarak yönetir. Bu yöntem, büyük miktarda metin işlemeniz gereken arka uç hizmetleri veya betikler için idealdir. Model kimliğinin, kullandığınız SDK sürümünden bağımsız olarak uncensored olarak kalacağını unutmayın.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredlocalllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Bu yöntem, toplu işleme için veya yanıt mantığını Python'da yönetmeniz gerektiğinde verimlidir. Ortamınızda openai paketinin yüklü olduğundan emin olun. SDK, hem senkron hem de asenkron işlemleri destekler ve çeşitli mimari ihtiyaçlara uygundur.

Node SDK Entegrasyonu

JavaScript veya TypeScript ortamları için OpenAI Node SDK'sı benzer bir deneyim sunar. İstemciyi temel URL ve API anahtarınızla başlatın. Bu, özellikle web uygulamaları veya sunucusuz işlevler için kullanışlıdır. SDK HTTP ayrıntılarını soyutlayarak uygulama mantığına odaklanmanızı sağlar. Tamamlama uç noktasına diğer OpenAI uyumlu hizmetlerle aynı yapıda çağrı yapabilirsiniz.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.uncensoredlocalllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Bu entegrasyonu gerçek zamanlı web arayüzleri veya Node.js mikro hizmetleri için kullanın. SDK, promise ve async/await desenlerini destekler, bu da hata yönetimini basitleştirir. Dağıtık sistemlerde özellikle ağ hatalarını zarifçe yönettiğinizden emin olun.

Akış Yanıtları

İsteğinize stream: true ayarını ekleyerek akışı etkinleştirin. Bu, kısmi yanıtları oluşturulurken almanızı sağlar ve kullanıcılar için algılanan gecikmeyi azaltır. API, akış için Sunucu Tarafından Gönderilen Etkinlikleri (SSE) destekler. Bu, anında geri bildirim beklenen sohbet arayüzleri için kritiktir. Akış, modelin çıktı kalitesini veya bağlam penceresini etkilemez.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Akış olaylarını istemci kodunuzda yönetin. Her parça, nihai yanıtın bir bölümünü içerir. Bu parçaları birleştirerek tam mesajı yeniden oluşturun. Bu yaklaşım, hem Python hem de Node.js'deki OpenAI SDK'larıyla sorunsuz çalışır.

Hız Limitleri, Hatalar ve Bağlam Penceresi