Dokumentace k API: Dokončování chatu & parametry

Základní URL a ověření

Připojte se k API pomocí poskytnuté základní URL a vašeho API klíče. Tento endpoint funguje se standardními SDK OpenAI pouhou úpravou konfigurace. Na účet získáte jeden aktivní klíč, který vygenerujete přes Google nebo e-mail při registraci. Klíč autentizuje každý požadavek, který na službu odešlete.

Copycurl https://api.hubuncensored.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a JSON object with user id and role"}]
  }'

"Chraňte svůj klíč. Pokud vygenerujete nový, předchozí klíč se stane neplatným okamžitě. To zajišťuje, že vždy máte kontrolu nad přístupem k vašemu předplacenému kreditu bez přetrvávajících oprávnění."

Endpoint Chat Completions

Pošlete svá data podnětu na endpoint chat completions pro generování textu. Toto je hlavní rozhraní pro vaše aplikace, které zvládá veškerý vstupní a výstupní text. Musíte specifikovat model jako 'uncensored', abyste zajistili konzistentní chování. API zpracuje váš požadavek a vrátí vygenerovanou textovou odpověď.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.hubuncensored.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Chyby jako 401 indikují neplatný klíč, zatímco 402 znamená, že potřebujete více kreditu. Požadavky se účtují na základě skutečného využití tokenů, takže chyby nevyprazdňují váš zůstatek.

Streamované odpovědi přes SSE

Získejte tokeny v reálném čase pomocí Server-Sent Events (SSE). Tato metoda snižuje vnímanou latenci pro dlouhé výstupy dodáváním dat, jak jsou generovány. Můžete parsovat poslední část pro přesné statistiky spotřeby tokenů pro fakturaci. Streamování je ideální pro uživatelská rozhraní, kde záleží na okamžité zpětné vazbě.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Okno kontextu umožňuje celkem 100 000 tokenů, včetně podnětu i dokončení. Streamování nemění základní limity tokenů ani strukturu cen.

Volání funkcí a režim JSON

Používejte volání funkcí k integraci strukturovaných výstupů do vašeho workflow. Specifikujte nástroje a tool_choice pro vedení formátu odpovědi modelu. Můžete také vynutit přísný režim JSON pomocí parametru response_format pro spolehlivé parsování. To zajišťuje, že vaše aplikace dostane data ve přesné struktuře, kterou definujete.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.hubuncensored.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Tyto funkce fungují v rámci jediného modelu bez cenzury. Není žádná routování modelů ani volba mezi různými poskytovateli. Spoléháte se na jeden model s otevřenými váhamy vyladěný pro neomezený obsah.

Parametry: Teplota, Top P a Stop

Ovládejte chování generování pomocí standardních parametrů jako temperature a top_p. Úpravou těchto hodnot vyvažujte kreativitu a determinismus ve svých výstupech. Parametr stop umožňuje zastavit generování při konkrétních sekvencích. Můžete také nastavit presence_penalty a frequency_penalty pro úpravu stylu výstupu.

Nastavte max_tokens na 16 000 pro dlouhé odpovědi. Pokud vynecháte max_tokens, výchozí hodnota je 2 048 tokenů na požadavek. Tato nastavení vám poskytují přesnou kontrolu nad procesem generování.

Limity, chyby a kontextové okno

Sledujte své využití vzhledem k přísným limitům rychlosti, abyste zajistili hladký provoz. Je vám povoleno 300 požadavků za minutu a 8 souběžných požadavků na klíč. Maximální velikost těla požadavku je 8 MB. Překročení těchto limitů vrátí chybu limitu rychlosti 429. Pochopení těchto omezení vám pomůže navrhnout robustní logiku opakování.

Okno kontextu podporuje celkem 100 000 tokenů. To zahrnuje vstupní prompt i vygenerované completion. Plánujte využití tokenů odpovídajícím způsobem, abyste předešli ořezání nebo chybám.