เอกสาร API: Chat Completions & พารามิเตอร์

URL ฐานและการตรวจสอบสิทธิ์

เชื่อมต่อ API โดยใช้ URL พื้นฐานและคีย์ API ของคุณ จุดสิ้นสุดนี้ใช้งานร่วมกับ SDK มาตรฐานของ OpenAI ได้โดยการอัปเดตการตั้งค่าเพียงเล็กน้อย คุณจะได้รับคีย์ที่ใช้งานได้นี้หนึ่งคีย์ต่อบัญชี ซึ่งคุณสามารถสร้างได้ผ่าน Google หรืออีเมลระหว่างขั้นตอนการสมัคร คีย์นี้จะใช้ยืนยันตัวตนสำหรับทุกคำขอที่คุณส่งไปยังบริการ

Copycurl https://api.hubuncensored.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a JSON object with user id and role"}]
  }'

รักษาความมั่นคงปลอดภัยของคีย์ของคุณ หากคุณสร้างคีย์ใหม่ คีย์ก่อนหน้าจะหมดอายุทันที สิ่งนี้ทำให้คุณควบคุมการเข้าถึงเครดิตที่เติมเงินไว้ของคุณได้เสมอโดยไม่มีการอนุญาตที่ค้างอยู่

จุดจบ API Chat Completions

ส่งข้อมูลพรอมต์ของคุณไปยังจุดสิ้นสุด chat completions สำหรับการสร้างข้อความ นี่คืออินเทอร์เฟซหลักสำหรับแอปพลิเคชันของคุณ จัดการอินพุตและเอาต์พุตข้อความทั้งหมด คุณต้องระบุโมเดลเป็น 'uncensored' เพื่อให้แน่ใจว่าพฤติกรรมสม่ำเสมอ API ประมวลผลคำขอของคุณและส่งข้อความตอบกลับที่สร้าง

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.hubuncensored.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

ข้อผิดพลาดเช่น 401 บ่งชี้ถึงคีย์ไม่ถูกต้อง ในขณะที่ 402 หมายถึงคุณต้องการเครดิตเพิ่ม คำขอจะถูกเรียกเก็บตามการใช้งานโทเค็นจริง ดังนั้นข้อผิดพลาดจึงไม่ทำให้ยอดคงเหลือของคุณลดลง

การตอบกลับแบบสตรีมมิ่งผ่าน SSE

รับโทเค็นแบบเรียลไทม์โดยใช้ Server-Sent Events วิธีนี้ช่วยลดความล่าช้าที่รับรู้สำหรับเอาต์พุตยาวโดยการส่งข้อมูลทันทีที่ถูกสร้างขึ้น คุณสามารถแยกวิเคราะห์ชิ้นส่วนสุดท้ายเพื่อรับสถิติการใช้โทเค็นที่แม่นยำสำหรับการเรียกเก็บเงิน การสตรีมเหมาะสำหรับอินเทอร์เฟซที่แสดงต่อผู้ใช้ซึ่งการตอบสนองทันทีมีความสำคัญ

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

หน้าต่างบริบทรองรับได้รวม 100,000 tokens รวมถึงทั้ง prompt และ completion การ streaming ไม่เปลี่ยนขีดจำกัด token พื้นฐานหรือโครงสร้างการคิดราคา

Function Calling และโหมด JSON

ใช้ฟังก์ชันคอลลิงเพื่อผสานรวมผลลัพธ์ที่มีโครงสร้างเข้ากับเวิร์กโฟลว์ของคุณ ระบุเครื่องมือและ tool_choice เพื่อแนะนำรูปแบบการตอบสนองของโมเดล คุณยังสามารถบังคับใช้โหมด JSON ที่เข้มงวดโดยใช้พารามิเตอร์ response_format สำหรับการแยกวิเคราะห์ที่เชื่อถือได้ สิ่งนี้รับประกันว่าแอปพลิเคชันของคุณจะได้รับข้อมูลในรูปแบบโครงสร้างที่คุณกำหนดไว้

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.hubuncensored.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

ฟีเจอร์เหล่านี้ทำงานภายในโมเดลที่ไม่ถูกเซ็นเซอร์เพียงตัวเดียว ไม่มีเส้นทางโมเดลหรือการเลือกระหว่างผู้ขายที่แตกต่างกัน คุณพึ่งพาโมเดลโอเพนซอร์สตัวเดียวที่ปรับแต่งสำหรับเนื้อหาที่ไม่มีการจำกัด

พารามิเตอร์: อุณหภูมิ (Temperature), Top P และ Stop

ควบคุมพฤติกรรมการสร้างด้วยพารามิเตอร์มาตรฐานเช่น temperature และ top_p ปรับค่าเหล่านี้เพื่อสร้างสมดุลระหว่างความสร้างสรรค์และความแน่นอนในผลลัพธ์ของคุณ พารามิเตอร์ stop ช่วยให้คุณหยุดการสร้างเมื่อพบลำดับเฉพาะ นอกจากนี้คุณยังสามารถตั้งค่า presence_penalty และ frequency_penalty เพื่อปรับแต่งสไตล์ของผลลัพธ์

ตั้งค่า max_tokens เป็น 16,000 สำหรับคำตอบที่ยาว หากละเว้น max_tokens ค่าเริ่มต้นคือ 2,048 โทเค็นต่อการขอหนึ่งการตั้งค่าเหล่านี้ให้คุณควบคุมกระบวนการสร้างได้อย่างแม่นยำ

ข้อจำกัด, ข้อผิดพลาด และหน้าต่างบริบท

ติดตามการใช้งานของคุณเทียบกับขีดจำกัดอัตราที่เข้มงวดเพื่อให้การดำเนินงานราบรื่น คุณได้รับอนุญาต 300 คำขอต่อนาทีและ 8 คำขอพร้อมกันต่อคีย์ ขนาด body คำขอสูงสุดคือ 8 MB การเกินขีดจำกัดเหล่านี้จะส่งข้อผิดพลาดขีดจำกัดอัตรา 429 ความเข้าใจข้อจำกัดเหล่านี้ช่วยให้คุณออกแบบตรรกะการลองใหม่ที่แข็งแกร่ง

หน้าต่างบริบทรองรับ 100,000 tokens รวมกัน ซึ่งรวมถึง prompt และ completion ที่สร้างขึ้นมา วางแผนการใช้ tokens ของคุณให้เหมาะสมเพื่อหลีกเลี่ยงการตัดทอนหรือข้อผิดพลาด