API 문서: 채팅 완성 & 매개변수

Base URL 및 인증

제공된 베이스 URL과 API 키를 사용하여 API에 연결하세요. 이 엔드포인트는 구성을 업데이트하기만 하면 표준 OpenAI SDK와 함께 작동합니다. 계정당 활성 키가 하나 제공되며, 가입 시 Google 또는 이메일을 통해 생성됩니다. 이 키는 서비스로 보내는 모든 요청의 인증에 사용됩니다.

Copycurl https://api.hubuncensored.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a JSON object with user id and role"}]
  }'

키는 안전하게 보관하세요. 새 키를 생성하면 이전 키가 즉시 무효화됩니다. 이렇게 하면 잔류 권한 없이 선불 크레딧에 대한 접근을 항상 제어할 수 있습니다.

채팅 완료 엔드포인트

텍스트 생성을 위해 채팅 완료 엔드포인트에 프롬프트 데이터를 보내세요. 이는 모든 텍스트 입력과 출력을 처리하는 애플리케이션의 주요 인터페이스입니다. 일관된 동작을 보장하려면 모델을 'uncensored'로 지정해야 합니다. API는 요청을 처리하고 생성된 텍스트 응답을 반환합니다.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.hubuncensored.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

401은 잘못된 키를, 402는 크레딧이 부족함을 나타냅니다. 요청은 실제 토큰 사용량을 기준으로 요금이 부과되므로 오류로 인해 잔액이 소모되지 않습니다.

SSE를 통한 스트리밍 응답

서버 전송 이벤트를 사용하여 실시간으로 토큰을 받습니다. 이 방법은 생성되는 대로 데이터를 제공하여 긴 출력에 대한 지각 지연을 줄입니다. 청구를 위해 정확한 토큰 사용량 통계를 얻으려면 마지막 청크를 구문 분석할 수 있습니다. 스트리밍은 즉각적인 피드백이 중요한 사용자 대상 인터페이스에 이상적입니다.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

컨텍스트 윈도우는 프롬프트와 completion을 합쳐 총 100,000개의 토큰을 허용합니다. 스트리밍은 기본 토큰 제한이나 가격 구조에 영향을 주지 않습니다.

함수 호출 및 JSON 모드

워크플로우에 구조화된 출력을 통합하기 위해 함수 호출을 사용하세요. 도구와 tool_choice를 지정하여 모델의 응답 형식을 안내하세요. 신뢰할 수 있는 구문 분석을 위해 response_format 매개변수를 사용하여 엄격한 JSON 모드를 강제할 수도 있습니다. 이를 통해 애플리케이션이 정의한 정확한 구조로 데이터를 받습니다.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.hubuncensored.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

이러한 기능들은 단일 검열 없는 모델 내에서 작동합니다. 모델 라우팅이나 다른 벤더 간 선택이 없습니다. 제한 없는 콘텐츠에 맞게 조정된 단일 오픈 웨이트 모델에 의존합니다.

파라미터: Temperature, Top P, Stop

temperature 및 top_p와 같은 표준 매개변수를 사용하여 생성 동작을 제어하세요. 이러한 값을 조정하여 출력의 창의성과 결정론적 성향 사이의 균형을 맞추세요. stop 매개변수를 사용하면 특정 시퀀스에서 생성을 중단할 수 있습니다. 또한 presence_penalty 및 frequency_penalty를 설정하여 출력 스타일을 정교하게 다듬을 수 있습니다.

긴 응답을 위해 max_tokens을 16,000으로 설정합니다. max_tokens을 생략하면 요청당 기본값은 2,048 토큰입니다. 이러한 설정은 생성 과정에 정밀한 제어를 제공합니다.

제한 사항, 오류 및 컨텍스트 윈도우

원활한 운영을 위해 엄격한 속도 제한에 맞춰 사용량을 모니터링하세요. 키당 분당 300회 요청 및 8개의 동시 요청이 허용됩니다. 최대 요청 본문 크기는 8 MB입니다. 이러한 제한을 초과하면 429 속도 제한 오류가 반환됩니다. 이러한 제약 사항을 이해하면 견고한 재시도 로직을 설계하는 데 도움이 됩니다.

컨텍스트 윈도우는 입력 프롬프트와 생성된 완성 텍스트를 합해 총 100,000개의 토큰을 지원합니다. 잘림이나 오류를 피하기 위해 토큰 사용량을 적절히 계획하세요.