תיעוד API

התחלה מהירה: שילוב ב-Python

השלב הראשון הוא התקנת ה-SDK הרשמי של OpenAI והגדרת כתובת ה-URL הבסיסית. זה מבטיח שהלקוח שלך יפנה את הבקשות לקצה של ה-LLM ללא צנזורה שלנו ללא שינוי הלוגיקה הקיימת שלך.

• התקן את החבילה באמצעות pip.
• הגדר את מפתח ה-API וכתובת הבסיס.
• שלח בקשת השלמת צ'אט סטנדרטית.

התצורה הזו עובדת גם עבור סקריפטים מקומיים וגם עבור שרתי ייצור.

אימות וכתובת בסיס

מפתח ה-API שלך מאמת כל בקשה לכתובת הבסיס HTTPS://api.chatbotsemfiltro.com/v1. המפתח נוצר מיד עם ההרשמה ונשאר בתוקף עד שתבטל אותו.

אחסן את המפתח במשתנה סביבה כדי להימנע מהכנסת סודות בקוד. ה-SDK מוסיף את הכותרת באופן אוטומטי.

נקודת קצה להשלמות צ'אט

נקודת הקצה העיקרית מקבלת בקשות POST ל-/v1/chat/completions. היא מצפה לגוף JSON עם הודעות ופרמטרי מודל.

• הגדירו את התפקיד (system, user, assistant).
• ציין את המודל כ"uncensored".
• קבלו פלט טקסטואלי.

מבנה זה משקף את הפורמט הסטנדרטי של OpenAI, ומבטיח תאימות.

זרם נתונים וקריאה לפונקציות

אפשרו סטרימינג על ידי הגדרת stream ל-true. ה-API מחזיר מקטעי אירועים מוכווני שרת (SSE), ומספק טוקנים כפי שהם נוצרים.

תמיכה ב-Function calling נתמכת דרך פרמטר ה-tools. המודל מחזיר קריאות לכלים בפורמט JSON, שניתן לנתח ולהריץ.

פרמטרים: טמפרטורה ו-Top P

התאם טמפרטורה ליצירתיות או לדטרמיניזם. ערכים בין 0 ל-2 שולטים באקראיות. Top P מסנן מילים לפי הסתברות מצטברת.

שלבו פרמטרים אלו כדי לכוונן את סגנון הפלט. השתמשו ב-seed לתוצאות שחירות במהלך בדיקות.

חלון ההקשר ומגבלות

המודל תומך בחלון הקשר של 100,000 טוקנים. התפוקה המקסימלית היא 16,000 טוקנים לכל בקשה.

מגבלות הקצב הן 300 בקשות לדקה. חריגה מזה תפעיל שגיאת 429. נהל מקבילות כדי להימנע מצימצום קצב.

טיפול בשגיאות וטוקנים

טפול בשגיאות HTTP בצורה חכמה. 401 מציין מפתח לא חוקי. 402 משמעותו חסר אשראי. 429 מסמן הגבלת קצב.

צריכת טוקנים מחויבת במדויק. שגיאות לא צורכות אשראי. עקוב אחר צריכה דרך לוח הבקרה.

cURL

Copycurl https://api.chatbotsemfiltro.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the top ten libraries for Rust async programming"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.chatbotsemfiltro.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.chatbotsemfiltro.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

זרימה

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)