Documentație API: Completări Chat & Parametri

URL de bază și autentificare

Conectează-te la API folosind URL-ul de bază furnizat și cheia ta API. Acest endpoint funcționează cu SDK-urile standard OpenAI prin simpla actualizare a configurației. Primești o singură cheie activă per cont, pe care o generezi prin Google sau email în timpul înregistrării. Cheia autentifică fiecare cerere pe care o faci către serviciu.

Copycurl https://api.hubuncensored.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a JSON object with user id and role"}]
  }'

Mențineți cheia în siguranță. Dacă generați una nouă, cheia anterioară devine invalidă imediat. Acest lucru asigură că controlați întotdeauna accesul la creditul preplătit fără permisiuni reziduale.

Endpoint Completări Chat

Trimiteți datele promptului către endpoint-ul de completări chat pentru generarea de text. Aceasta este interfața principală pentru aplicațiile dvs., gestionând toate intrările și ieșirile de text. Trebuie să specificați modelul ca "uncensored" pentru a asigura un comportament consistent. API-ul procesează solicitarea dvs. și returnează răspunsul de text generat.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.hubuncensored.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Erorile precum 401 indică o cheie invalidă, în timp ce 402 înseamnă că aveți nevoie de mai mult credit. Solicitățile sunt facturate în funcție de utilizarea reală a token-urilor, astfel încât erorile nu vă epuizează soldul.

Răspunsuri în streaming prin SSE

Primește tokeni în timp real folosind Server-Sent Events (SSE). Această metodă reduce latența percepută pentru output-uri lungi prin livrarea datelor pe măsură ce sunt generate. Poți analiza fragmentul final pentru a obține statistici precise de consum de tokeni pentru facturare. Streaming-ul este ideal pentru interfețele destinate utilizatorilor unde feedback-ul imediat este important.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Fereastra de context permite un total de 100.000 de tokeni, incluzând atât promptul, cât și completarea. Streaming-ul nu modifică limitele de tokeni subiacente sau structura de prețuri.

Apelarea funcțiilor și modul JSON

Utilizează apelarea de funcții pentru a integra ieșiri structurate în fluxul tău de lucru. Specifică instrumentele și tool_choice pentru a ghida formatul de răspuns al modelului. Poți, de asemenea, să impui un mod JSON strict folosind parametrul response_format pentru o analiză fiabilă. Acest lucru asigură că aplicația ta primește date în structura exactă pe care o definești.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.hubuncensored.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Aceste funcționalități funcționează în cadrul unui singur model necenzurat. Nu există rutare între modele sau alegere între diferiți furnizori. Te bazezi pe un singur model open-weight, finetunat pentru conținut fără restricții.

Parametri: Temperatură, Top P și Stop

Controlează comportamentul de generare cu parametri standard precum temperature și top_p. Ajustează aceste valori pentru a echilibra creativitatea și determinismul în ieșirile tale. Parametrul stop îți permite să oprești generarea la secvențe specifice. Poți seta, de asemenea, presence_penalty și frequency_penalty pentru a rafina stilul ieșirii.

Stabilește max_tokens la 16,000 pentru răspunsuri lungi. Dacă omiți max_tokens, valoarea implicită este de 2,048 de tokeni per solicitare. Aceste setări îți oferă control precis asupra procesului de generare.

Limitări, Erori și Fereastră de Context

Monitorați-vă utilizarea în raport cu limitele stricte de rată pentru a asigura o funcționare fluidă. Aveți voie la 300 de solicitări pe minut și 8 solicitări concurente per cheie. Dimensiunea maximă a corpului solicitării este de 8 MB. Depășirea acestor limite returnează o eroare de limită de rată 429. Înțelegerea acestor constrângeri vă ajută să proiectați o logică de reîncercare robustă.

Fereastra de context suportă un total de 100.000 de tokeni. Acesta include atât promptul de intrare, cât și completarea generată. Planifică-ți utilizarea tokenilor în consecință pentru a evita trunchierea sau erorile.