תיעוד API: השלמת צ'אט & פרמטרים

כתובת URL בסיסית ואימות

התחבר ל-API באמצעות כתובת הבסיס שסופקה ומפתח ה-API שלך. נקודת הקצה הזו עובדת עם ספריות ה-SDK הסטנדרטיות של OpenAI על ידי עדכון פשוט של התצורה. אתה מקבל מפתח פעיל אחד לכל חשבון, אותו אתה יוצר באמצעות Google או דוא"ל במהלך ההרשמה. המפתח מאמת כל בקשה שתשלח לשירות.

Copycurl https://api.hubuncensored.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a JSON object with user id and role"}]
  }'

שמור על המפתח שלך מאובטח. אם תייצר מפתח חדש, המפתח הקודם יהפוך לא חוקי מיד. זה מבטיח שאתה תמיד שולט בגישה לאשראי ששולם מראש ללא הרשאות תלויות.

נקודת קצה להשלמות צ'אט

שלחו את נתוני הפרומפט שלכם אל נקודת הקצה להשלמת צ'אט ליצירת טקסט. זהו הממשק הראשי ליישומים שלכם, המטפל בכל קלט ופלט טקסט. עליכם לציין את המודל כ-'uncensored' כדי להבטיח התנהגות עקבית. ה-API מעבד את הבקשה שלכם ומחזיר את תגובת הטקסט שנוצרה.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.hubuncensored.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

שגיאות כמו 401 מצביעות על מפתח לא חוקי, בעוד ש-402 משמעותו שאתה צריך יותר אשראי. בקשות נגבות על בסיס שימוש בפועל בטוקנים, כך ששגיאות אינן מנזלות את יתרתך.

תגובות בסטרימינג באמצעות SSE

קבלו אסימונים בזמן אמת באמצעות אירועים שנשלחו מהשרת (SSE). שיטה זו מפחיתה את זמן התפיסה לתפוקות ארוכות על ידי מסירת נתונים כפי שהם נוצרים. ניתן לנתח את הנתח הסופי לקבלת סטטיסטיקות שימוש באסימונים מדויקות לחשבונאות. זרימה אידיאלית לממשקים המופנים למשתמש שבהם משוב מיידי חשוב.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

חלון ההקשר מאפשר 100,000 טוקנים בסך הכל, כולל פקודה והשלמה. סטרימינג אינו משנה את מגבלות הטוקנים הבסיסיות או את מבנה התמחור.

פקודות פונקציה ומצב JSON

השתמש ב-calling פונקציות לשילוב תוצאות מבניות לתוך זרימת העבודה שלך. ציין כלים ו-tool_choice כדי להנחות את פורמט התגובה של המודל. אתה יכול גם לכפות מצב JSON קפדני באמצעות פרמטר response_format לניתוח אמין. זה מבטיח שאפליקציה שלך תקבל נתונים במבנה המדויק שאתה מגדיר.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.hubuncensored.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

תכונות אלו עובדות בתוך המודל הבודד ללא цензуרתי. אין הפניה בין מודלים או בחירה בין ספקים שונים. אתה מסתמך על מודל אחד בעל משקל פתוח (open-weight) שהותאם לתוכן ללא הגבלות.

פרמטרים: טמפרטורה, Top P ו-Stop

שלוו את התנהגות היצירה באמצעות פרמטרים סטנדרטיים כמו טמפרטורה ו-top_p. התאימו את הערכים הללו כדי לאזן בין יצירתיות לדטרמיניזם בתפוקות שלכם. פרמטר ה-stop מאפשר לכם לעצור יצירה ברצפים ספציפיים. באפשרותכם גם להגדיר presence_penalty ו-frequency_penalty כדי לשפר את סגנון הפלט.

הגדר max_tokens ל-16,000 עבור תגובות ארוכות. אם תשמיט את max_tokens, ברירת המחדל היא 2,048 טוקנים לכל בקה. הגדרות אלו נותנות לך שליטה מדויקת על תהליך היצירה.

מגבלות, שגיאות וחלון ההקשר

נטר את השימוש שלך מול מגבלות קצב קפדיות כדי להבטיח פעולה חלקה. מותר לך 300 בקשות לדקה ו-8 בקשות מקבילות לכל מפתח. גודל גוף הבקשה המקסימלי הוא 8 MB. חריגה ממגבלות אלו מחזירה שגיאת מגבלת קצב 429. הבנת מגבלות אלו עוזרת לך לעצב לוגיקת ניסיון חוזרת חסונה.

חלון ההקשר תומך ב-100,000 טוקנים בסך הכל. זה כולל את פלט הקלט ואת ההשלמה שנוצרה. תכנן את שימוש הטוקנים שלך בהתאם כדי להימנע מקיטוע או שגיאות.