Документация API: Chat Completions & Parameters

Базовый URL и аутентификация

Подключитесь к API, используя предоставленный базовый URL и ваш API-ключ. Этот конечный пункт совместим со стандартными SDK OpenAI: просто обновите конфигурацию. На одну учетную запись выдается один активный ключ, который генерируется через Google или электронную почту при регистрации. Ключ аутентифицирует каждый запрос, который вы отправляете на сервис.

Copycurl https://api.hubuncensored.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a JSON object with user id and role"}]
  }'

Храните ваш ключ в безопасности. Если вы сгенерируете новый, предыдущий ключ становится недействительным немедленно. Это гарантирует, что вы всегда контролируете доступ к вашему предоплаченному кредиту без оставшихся разрешений.

Эндпоинт Chat Completions

Передайте данные промпта в конечную точку chat completions для генерации текста. Это основной интерфейс для ваших приложений, обрабатывающий весь ввод и вывод текста. Вы должны указать модель как 'uncensored', чтобы обеспечить согласованное поведение. API обрабатывает ваш запрос и возвращает сгенерированный текстовый ответ.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.hubuncensored.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Ошибки, такие как 401, указывают на неверный ключ, а 402 означает, что вам нужно больше кредитов. Запросы оплачиваются на основе фактического использования токенов, поэтому ошибки не истощают ваш баланс.

Потоковые ответы через SSE

Получайте токены в реальном времени с использованием Server-Sent Events (SSE). Этот метод снижает воспринимаемую задержку для длинных выводов, доставляя данные по мере их генерации. Вы можете разобрать последний фрагмент, чтобы получить точную статистику использования токенов для выставления счетов. Потоковая передача идеально подходит для пользовательских интерфейсов, где важен немедленный обратный отклик.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Окно контекста поддерживает до 100 000 токенов суммарно, включая промпт и завершение. Потоковая передача не меняет базовые лимиты токенов или структуру ценообразования.

Function Calling и режим JSON

Используйте вызов функций для интеграции структурированных выводов в ваш рабочий процесс. Укажите инструменты и tool_choice, чтобы направить формат ответа модели. Вы также можете принудительно включить строгий режим JSON с помощью параметра response_format для надежного парсинга. Это гарантирует, что ваше приложение получит данные в тойexact структуре, которую вы определили.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.hubuncensored.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Эти функции работают в рамках единственной нецензурируемой модели. Нет маршрутизации моделей или выбора между разными поставщиками. Вы полагаетесь на одну модель с открытым весом, настроенную на неограниченный контент.

Параметры: Temperature, Top P и Stop

Управляйте поведением генерации с помощью стандартных параметров, таких как temperature и top_p. Настройте эти значения, чтобы сбалансировать креативность и детерминированность ваших результатов. Параметр stop позволяет остановить генерацию при определённых последовательностях. Вы также можете установить presence_penalty и frequency_penalty, чтобы уточнить стиль вывода.

Установите max_tokens на 16,000 для длинных ответов. Если вы опустите max_tokens, значение по умолчанию составляет 2,048 токенов на запрос. Эти настройки дают вам точный контроль над процессом генерации.

Лимиты, Ошибки и Контекстное окно

Отслеживайте использование в рамках строгих лимитов скорости для обеспечения бесперебойной работы. Вам разрешено 300 запросов в минуту и 8 одновременных запросов на ключ. Максимальный размер тела запроса составляет 8 МБ. Превышение этих лимитов возвращает ошибку лимита скорости 429. Понимание этих ограничений помогает вам разработать надежную логику повторных попыток.

Окно контекста поддерживает до 100,000 токенов суммарно. Это включает как входной промпт, так и сгенерированный ответ. Планируйте использование токенов, чтобы избежать усечения или ошибок.