Basis-URL und Authentifizierung
Verbinden Sie sich mit der API über die angegebene Basis-URL und Ihren API-Schlüssel. Dieser Endpunkt funktioniert mit Standard-OpenAI-SDKs, indem Sie einfach die Konfiguration aktualisieren. Sie erhalten einen aktiven Schlüssel pro Konto, den Sie während der Anmeldung über Google oder E-Mail generieren. Der Schlüssel authentifiziert jede Anfrage, die Sie an den Dienst senden.
curl https://api.hubuncensored.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Generate a JSON object with user id and role"}]
}'Halten Sie Ihren Schlüssel sicher. Wenn Sie einen neuen generieren, wird der vorherige Schlüssel sofort ungültig. Dies stellt sicher, dass Sie immer die Kontrolle über den Zugriff auf Ihr bezahltes Guthaben haben, ohne verbleibende Berechtigungen.
Chat-Vervollständigungs-Endpunkt
Senden Sie Ihre Prompt-Daten an den Chat-Vervollständigungs-Endpunkt zur Textgenerierung. Dies ist die primäre Schnittstelle für Ihre Anwendungen, die alle Texteingaben und -ausgaben verarbeitet. Sie müssen das Modell als 'uncensored' angeben, um ein konsistentes Verhalten sicherzustellen. Die API verarbeitet Ihre Anfrage und gibt die generierte Textantwort zurück.
from openai import OpenAI
client = OpenAI(base_url="https://api.hubuncensored.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Fehler wie 401 zeigen einen ungültigen Schlüssel an, während 402 bedeutet, dass Sie mehr Guthaben benötigen. Anfragen werden basierend auf der tatsächlichen Token-Nutzung berechnet, sodass Fehler Ihr Guthaben nicht erschöpfen.
Streaming-Antworten über SSE
Empfangen Sie Tokens in Echtzeit über Server-Sent Events (SSE). Diese Methode reduziert die wahrgenommene Latenz für lange Ausgaben, indem Daten bereitgestellt werden, sobald sie generiert werden. Sie können den letzten Chunk parsen, um genaue Token-Verbrauchstatistiken für die Abrechnung zu erhalten. Streaming ist ideal für benutzernahe Schnittstellen, bei denen sofortiges Feedback wichtig ist.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Das Context-Window fasst insgesamt 100.000 Tokens zusammen, einschließlich Prompt und Completion. Streaming ändert nicht die zugrunde liegenden Token-Limits oder die Preisstruktur.
Function Calling und JSON-Modus
Nutze Function Calling, um strukturierte Ausgaben in deinen Workflow zu integrieren. Gib Tools und tool_choice an, um das Antwortformat des Modells zu steuern. Du kannst den strengen JSON-Modus auch über den Parameter response_format erzwingen, um ein zuverlässiges Parsing zu gewährleisten. Dies stellt sicher, dass deine Anwendung Daten in der exakten Struktur erhält, die du definierst.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.hubuncensored.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Diese Funktionen arbeiten innerhalb des einzelnen unzensierten Modells. Es gibt kein Model-Routing oder eine Wahl zwischen verschiedenen Anbietern. Sie verlassen sich auf ein einzelnes Open-Weight-Modell, das für unbeschränkte Inhalte optimiert wurde.
Parameter: Temperatur, Top P und Stop
Steuern Sie das Generierungsverhalten mit Standardparametern wie Temperatur und top_p. Passen Sie diese Werte an, um Kreativität und Determinismus in Ihren Ausgaben auszubalancieren. Der stop-Parameter ermöglicht es Ihnen, die Generierung bei bestimmten Sequenzen zu stoppen. Sie können auch presence_penalty und frequency_penalty festlegen, um den Ausgabestil zu verfeinern.
Legen Sie max_tokens auf 16.000 für lange Antworten fest. Wenn Sie max_tokens weglassen, beträgt der Standardwert 2.048 Tokens pro Anfrage. Diese Einstellungen geben Ihnen präzise Kontrolle über den Generierungsprozess.
Limits, Fehler und Kontextfenster
Überwachen Sie Ihre Nutzung gegen strenge Rate-Limits, um einen reibungslosen Betrieb zu gewährleisten. Sie dürfen 300 Anfragen pro Minute und 8 gleichzeitige Anfragen pro Schlüssel stellen. Die maximale Anfragekörpergröße beträgt 8 MB. Das Überschreiten dieser Limits gibt einen 429-Rate-Limit-Fehler zurück. Das Verständnis dieser Einschränkungen hilft Ihnen, robuste Retry-Logik zu entwerfen.
Das Context-Window unterstützt insgesamt 100.000 Tokens. Dies umfasst sowohl den Eingabe-Prompt als auch die generierte Completion. Planen Sie Ihre Token-Nutzung entsprechend, um Trunkierung oder Fehler zu vermeiden.
