Базова URL-адреса та аутентифікація
Підключіться до API, використовуючи надану базову URL-адресу та ваш API-ключ. Ця кінцева точка сумісна зі стандартними SDK OpenAI шляхом простого оновлення конфігурації. Ви отримуєте один активний ключ на обліковий запис, який генерується під час реєстрації через Google або електронну пошту. Ключ аутентифікує кожен ваш запит до служби.
curl https://api.hubuncensored.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Generate a JSON object with user id and role"}]
}'Зберігайте ваш ключ у безпеці. Якщо ви згенеруєте новий, попередній ключ стає недійсним миттєво. Це гарантує, що ви завжди контролюєте доступ до вашого передплаченого кредиту без залишкових дозволів.
Ендпоінт Chat Completions
Надішліть дані промпту до кінцевої точки chat completion для генерації тексту. Це основний інтерфейс для ваших додатків, що обробляє весь текстовий вхід і вихід. Ви повинні вказати модель як 'uncensored', щоб забезпечити послідовну поведінку. API обробляє ваш запит і повертає згенеровану текстову відповідь.
from openai import OpenAI
client = OpenAI(base_url="https://api.hubuncensored.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Помилки, такі як 401, вказують на недійсний ключ, тоді як 402 означає, що вам потрібно більше коштів. Запити нараховуються на основі фактичного використання токенів, тому помилки не виснажують ваш баланс.
Потокові відповіді через SSE
Отримуйте токени в реальному часі за допомогою Server-Sent Events (SSE). Цей метод зменшує сприйняту затримку для довгих виводів, надаючи дані по мірі їх генерації. Ви можете розпарсити останній чанк, щоб отримати точну статистику використання токенів для билінгу. Потокова передача ідеально підходить для інтерфейсів, орієнтованих на користувача, де важливий миттєвий зворотний зв'язок.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Вікно контексту дозволяє до 100 000 токенів загалом, включаючи як промпт, так і відповідь. Потокова передача не змінює базових обмежень на кількість токенів або структуру ціноутворення.
Function Calling та режим JSON
Використовуйте виклик функцій для інтеграції структурованих результатів у ваш робочий процес. Вкажіть інструменти та tool_choice, щоб керувати форматом відповіді моделі. Ви також можете примусово увімкнути суворий режим JSON за допомогою параметра response_format для надійного парсингу. Це гарантує, що ваш додаток отримає дані в точній структурі, яку ви визначили.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.hubuncensored.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Ці функції працюють в межах єдиної нецензурованої моделі. Немає маршрутизації моделей або вибору між різними постачальниками. Ви покладаєтеся на одну модель з відкритими вагами, налаштовану для необмеженого контенту.
Параметри: Temperature, Top P та Stop
Керуйте поведінкою генерації за допомогою стандартних параметрів temperature та top_p. Налаштуйте ці значення, щоб збалансувати креативність та детермінованість у ваших результатах. Параметр stop дозволяє зупинити генерацію за певними послідовностями. Ви також можете встановити presence_penalty та frequency_penalty, щоб уточнити стиль виводу.
Встановіть max_tokens на 16 000 для довгих відповідей. Якщо ви пропустите max_tokens, за замовчуванням встановлено 2 048 токенів на запит. Ці налаштування дають вам точний контроль над процесом генерації.
Ліміти, помилки та контекстне вікно
Моніторьте використання, орієнтуючись на суворі ліміти швидкості, щоб забезпечити стабільну роботу. Вам дозволено 300 запитів на хвилину та 8 одночасних запитів на ключ. Максимальний розмір тіла запиту становить 8 МБ. Перевищення цих лімітів повертає помилку ліміту швидкості 429. Розуміння цих обмежень допомагає розробити надійну логіку повторних спроб.
Вікно контексту підтримує до 100,000 токенів загалом. Це включає як вхідний промпт, так і згенеровану відповідь. Плануйте використання токенів відповідно, щоб уникнути обрізання або помилок.
