Dokumentasi API: Pelengkapan Chat & Parameter

URL Asas dan Pengesahan

Sambungkan ke API menggunakan URL asas yang disediakan dan kunci API anda. Hujung ini berfungsi dengan SDK OpenAI standard dengan hanya mengemas kini konfigurasi. Anda menerima satu kunci aktif per akaun, yang anda jana melalui Google atau e-mel semasa pendaftaran. Kunci tersebut mengesahkan setiap permintaan yang anda buat ke perkhidmatan.

Copycurl https://api.hubuncensored.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a JSON object with user id and role"}]
  }'

Kekalkan kunci anda selamat. Jika anda menjana kunci baru, kunci sebelumnya akan menjadi tidak sah serta-merta. Ini memastikan anda sentiasa mengawal akses kepada kredit pra-dibayar anda tanpa kebenaran yang tertinggal.

Hujung Sambungan Penyelesaian Sembang

Hantar data arahan anda ke hujung penyelesaian chat untuk penjanaan teks. Ini adalah antara muka utama untuk aplikasi anda, mengendalikan semua input dan output teks. Anda mesti menentukan model sebagai 'uncensored' untuk memastikan kelakuan yang konsisten. API memproses permintaan anda dan memulangkan respons teks yang dijana.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.hubuncensored.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Kesilapan seperti 401 menunjukkan kunci tidak sah, manakala 402 bermaksud anda memerlukan lebih kredit. Permintaan dicalarkan berdasarkan penggunaan token sebenar, jadi kesilapan tidak mengosongkan baki anda.

Respons Streaming Melalui SSE

Terima token secara masa nyata menggunakan Acara Dihantar Pelayan (SSE). Kaedah ini mengurangkan latensi persepsi untuk output panjang dengan menghantar data sejajar dengan penjanaan. Anda boleh menafsir pecahan akhir untuk mendapatkan statistik penggunaan token yang tepat untuk pengebilan. Penstriman sangat sesuai untuk antara muka berhadapan pengguna di mana maklum balas serta-merta amat penting.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Jendela konteks membolehkan jumlah token sebanyak 100,000, termasuk prompt dan penyelesaian. Aliran berterusan tidak mengubah had token asas atau struktur harga.

Panggilan Fungsi dan Mod JSON

Gunakan panggilan fungsi untuk mengintegrasikan output berstruktur ke dalam aliran kerja anda. Nyatakan alat dan tool_choice untuk membimbing format respons model. Anda juga boleh memaksa mod JSON yang ketat menggunakan parameter response_format untuk penguraian yang boleh dipercayai. Ini memastikan aplikasi anda menerima data dalam struktur tepat yang anda takrifkan.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.hubuncensored.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Ciri-ciri ini berfungsi dalam model kurang sensor tunggal. Tiada pengalihan model atau pilihan antara vendor berbeza. Anda bergantung pada satu model berat terbuka yang ditala untuk kandungan tanpa sekatan.

Parameter: Suhu, Top P, dan Henti

Kawal tingkah laku penjanaan dengan parameter standard seperti suhu dan top_p. Laraskan nilai-nilai ini untuk mengimbangi kreativiti dan determinisme dalam output anda. Parameter stop membolehkan anda menghentikan penjanaan pada rentetan tertentu. Anda juga boleh menetapkan presence_penalty dan frequency_penalty untuk memperhalusi gaya output.

Tetapkan max_tokens kepada 16,000 untuk respons panjang. Jika anda membiarkan max_tokens, nilai lalainya ialah 2,048 token setiap permintaan. Tetapan ini memberikan anda kawalan tepat ke atas proses penjanaan.

Had, Ralat, dan Tetingkap Konteks

Pantau penggunaan anda terhadap had kadar yang ketat untuk memastikan operasi lancar. Anda dibenarkan 300 permintaan setiap minit dan 8 permintaan serentak setiap kunci. Saiz badan permintaan maksimum ialah 8 MB. Melebihi had ini memulangkan ralat had kadar 429. Memahami kekangan ini membantu anda mereka bentuk logik cubaan semula yang kukuh.

Tingkap konteks menyokong jumlah 100,000 token. Ini termasuk prompt input dan penyelesaian yang dijana. Rancang penggunaan token anda dengan sewajarnya untuk mengelakkan pemotongan atau ralat.