Temel URL ve Kimlik Doğrulama
Sağlanan temel URL ve API anahtarınız ile API'ye bağlanın. Bu uç nokta, yapılandırmayı basitçe güncelleyerek standart OpenAI SDK'ları ile çalışır. Hesap başına bir aktif anahtar alırsınız; bu anahtarı kayıt sırasında Google veya e-posta ile oluşturursunuz. Anahtar, servise yaptığınız her isteği doğrular.
curl https://api.hubuncensored.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Generate a JSON object with user id and role"}]
}'Anahtarınızı güvende tutun. Yeni bir tane oluşturursanız, önceki anahtar hemen geçersiz olur. Bu, kalan izinler olmadan ön ödemeli kredinize erişimi her zaman kontrol ettiğinizden emin olmanızı sağlar.
Sohbet Tamamlamaları Uç Noktası
Metin oluşturma için prompt verinizi chat completions uç noktasına gönderin. Bu, uygulamalarınız için birincil arayüzdür ve tüm metin girdi ve çıktısını işler. Tutarlı davranışı sağlamak için modeli 'uncensored' olarak belirtmeniz gerekir. API isteğinizi işler ve oluşturulan metin yanıtını döndürür.
from openai import OpenAI
client = OpenAI(base_url="https://api.hubuncensored.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)401 geçersiz bir anahtarı, 402 ise daha fazla kredi ihtiyacınızı gösterir. İstekler, gerçek token kullanımına göre ücretlendirilir, bu nedenle hatalar bakiyenizi azaltmaz.
SSE Üzerinden Akış Yanıtları
Sunucu Tarafından Gönderilen Olaylar (SSE) kullanarak tokenları gerçek zamanlı olarak alın. Bu yöntem, veriler oluşturuldukça teslim ederek uzun çıktılar için algılanan gecikme süresini azaltır. Hesaplama için doğru token kullanım istatistiklerini almak için son parçayı ayrıştırabilirsiniz. Akış, anında geri bildirmenin önemli olduğu kullanıcı arayüzleri için idealdir.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Bağlam penceresi hem prompt hem de tamamlama dahil olmak üzere toplamda 100.000 token'a izin verir. Akış (streaming), temel token limitlerini veya fiyatlandırma yapısını değiştirmez.
Fonksiyon Çağırma ve JSON Modu
Yapılandırılmış çıktıları iş akışınıza entegre etmek için fonksiyon çağrısı kullanın. Modelin yanıt biçimini yönlendirmek için araçları ve tool_choice'u belirtin. Ayrıca güvenilir ayrıştırma için response_format parametresini kullanarak sıkı JSON modunu zorlayabilirsiniz. Bu, uygulamanızın veriyi tam olarak tanımladığınız yapıda almasını sağlar.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.hubuncensored.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Bu özellikler tek sansürsüz model içinde çalışır. Model yönlendirmesi veya farklı tedarikçiler arasında seçim yoktur. İçerik kısıtlaması için ayarlanmış tek açık ağırlıklı modele güvenirsiniz.
Parametreler: Sıcaklık, Top P ve Durdur
Üretimi, temperature ve top_p gibi standart parametreleri kullanarak kontrol edin. Çıktılarınızda yaratıcılık ile determinizm arasında denge kurmak için bu değerleri ayarlayın. stop parametresi, üretimi belirli dizgelerde durdurmanıza olanak tanır. Çıktı stilini iyileştirmek için presence_penalty ve frequency_penalty ayarlayabilirsiniz.
Uzun yanıtlar için max_tokens'u 16.000'e ayarla. max_tokens'u belirtmezseniz, istek başına varsayılan değer 2.048 tokendır. Bu ayarlar, üretim süreci üzerinde hassas kontrol sağlar.
Limitler, Hatalar ve Bağlam Penceresi
Sorunsuz çalışma için sıkı hız limitleriyle kullanımınızı izleyin. Dakika başına 300 istek ve anahtar başına 8 eşzamanlı istek izniniz vardır. Maksimum istek gövdesi boyutu 8 MB'tır. Bu limitleri aşmak 429 hız limiti hatasını döndürür. Bu kısıtlamaları anlamak, sağlam yeniden deneme mantığı tasarlamanıza yardımcı olur.
Bağlam penceresi toplamda 100.000 token destekler. Bu hem girdi prompt'u hem de oluşturulan completion'u içerir. Kırpmaları veya hataları önlemek için token kullanımınızı buna göre planlayın.