API dokumentáció: Chat completions & paraméterek

Base URL és Hitelesítés

Csatlakozzon az API-hez a megadott alap URL és az API-kulcsa segítségével. Ez a végpont szabványos OpenAI SDK-kkal is működik, egyszerűen a konfiguráció frissítésével. Fiontonként egy aktív kulcsot kap, amelyet a regisztráció során Google-fiókkal vagy e-mail címmel generálhat. A kulcs hitelesíti az összes szolgáltatáshoz intézett kérését.

Copycurl https://api.hubuncensored.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a JSON object with user id and role"}]
  }'

Tartsa a kulcsot biztonságban. Ha újat generál, a korábbi kulcs azonnal érvénytelenné válik. Ez biztosítja, hogy mindig Ön irányítsa a hozzáférést az előre fizetett hitelhez, maradó jogosultságok nélkül.

Chat Completions végpont

Küldje el a prompt adatait a chat completions végpontra a szöveggeneráláshoz. Ez az elsődleges felület az alkalmazásai számára, amely kezeli az összes bemeneti és kimeneti szöveget. Meg kell adnia a modellt 'uncensored'-ként a konzisztens viselkedés biztosításához. Az API feldolgozza a kérését, és visszaadja a generált szöveges választ.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.hubuncensored.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

A 401 az érvénytelen kulcsot jelzi, míg a 402 azt jelenti, hogy több kreditre van szüksége. A kérések a tényleges tokenfelhasználás alapján kerülnek elszámolásra, így a hibák nem merítik ki az egyenlegét.

Streamelési válaszok SSE-n keresztül

Tokenek valós időben Server-Sent Events (SSE) segítségével. Ez a módszer csökkenti az észlelt késést hosszú kimenetek esetén azáltal, hogy adatokat szolgáltat generálásuk során. Az utolsó darab feldolgozásával pontos tokenfelhasználási statisztikákat kaphatsz a számlázáshoz. A streamelés ideális felhasználóbarát felületekhez, ahol az azonnali visszajelzés számít.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

A kontextusablak komplex utasítások kezelésére képes. A streamelés nem változtatja meg az alapvető tokenkorlátokat vagy az árazási struktúrát.

Függvényhívás és JSON mód

Használjon függvényhívást strukturált kimenetek integrálásához a munkafolyamatába. Adja meg az eszközöket és a tool_choice értéket a modell válaszformátumának irányításához. Szigorú JSON módot is kikényszeríthet a response_format paraméter segítségével a megbízható parsing érdekében. Ez biztosítja, hogy az alkalmazása pontosan azt a szerkezetet kapja, amelyet Ön definiált.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.hubuncensored.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Ezek a funkciók egyetlen cenzúrázatlan modellen belül működnek. Nincs modellirányítás vagy választás különböző gyártók között. Egy nyílt súlyozású modellre támaszkodsz, amelyet korlátlan tartalomra hangoltak.

Paraméterek: Hőmérséklet, Top P és Stop

Generálási viszony szabályozása standard paraméterekkel, mint a temperature és top_p. Állítsa be ezeket az értékeket a kreativitás és a determinizmus egyensúlyának megőrzéséhez a kimenetekben. A stop paraméter lehetővé teszi a generálás megállítását meghatározott szekvenciáknál. Beállíthatja a presence_penalty és frequency_penalty értékeket is a kimeneti stílus finomhangolásához.

Állítsd a max_tokens értéket 16 000-re hosszú válaszokhoz. Ha kihagyod a max_tokens beállítását, az alapértelmezett 2 048 token kéremonként. Ezek a beállítások pontos kontrollt adnak a generálási folyamat felett.

Korlátok, hibák és kontextus ablak

Figyelje a felhasználást a szigorú sebességkorlátok ellen a zökkenőmentes működés biztosításához. Percenként 300 kérést és 8 párhuzamos kérést engedélyeznek kulcsonként. A maximális kéréstörzs mérete 8 MB. Ezeket a korlátokat túllépve 429-es sebességkorlát hibát kap. Ezeknek a korlátoknak az ismerete segít robusztus retry logika tervezésében.

A kontextusablak összesen 100 000 token támogatását nyújtja. Ez magában foglalja a bemeneti promptot és a generált kiegészítést is. Tervezze meg a tokenfelhasználást ennek megfelelően a levágás vagy hibák elkerülése érdekében.