Tài liệu API

Hướng dẫn nhanh: Tích hợp Python

Bước đầu tiên là cài đặt SDK OpenAI chính thức và cấu hình URL cơ sở. Điều này đảm bảo máy khách của bạn định tuyến các yêu cầu đến điểm cuối LLM không kiểm duyệt của chúng tôi mà không cần sửa đổi logic hiện có của bạn.

• Cài đặt gói qua pip.
• Đặt khóa API và URL cơ sở.
• Gửi yêu cầu hoàn thành trò chuyện tiêu chuẩn.

Cấu hình này hoạt động cho cả các tập lệnh cục bộ và máy chủ sản xuất.

Xác thực và Base URL

Khóa API của bạn xác thực mọi yêu cầu gửi đến URL cơ sở HTTPS://api.chatbotsemfiltro.com/v1. Khóa được tạo ngay lập tức khi đăng ký và có hiệu lực cho đến khi bạn thu hồi nó.

Lưu khóa trong một biến môi trường để tránh mã hóa cứng các bí mật. SDK tự động chèn header.

Endpoint Hoàn thành Trò chuyện

Điểm cuối cốt lõi chấp nhận các yêu cầu POST đến /v1/chat/completions. Nó yêu cầu một thân JSON với các thông báo và tham số mô hình.

• Định nghĩa vai trò (hệ thống, người dùng, trợ lý).
• Chỉ định mô hình là "uncensored".
• Nhận đầu ra văn bản.

Cấu trúc này mô phỏng theo định dạng chuẩn của OpenAI, đảm bảo khả năng tương thích.

Streaming và Gọi hàm

Bật chế độ streaming bằng cách đặt stream thành true. API trả về các chunk Sự kiện được gửi bởi máy chủ (SSE), phân phối các token khi chúng được tạo.

Gọi hàm được hỗ trợ thông qua tham số tools. Mô hình trả về các lệnh gọi công cụ dưới định dạng JSON, mà bạn có thể phân tích cú pháp và thực thi.

Tham số: Nhiệt độ và Top P

Điều chỉnh nhiệt độ cho sáng tạo hoặc tính xác định. Các giá trị giữa 0 và 2 kiểm soát tính ngẫu nhiên. Top P lọc từ theo xác suất tích lũy.

Kết hợp các tham số này để tinh chỉnh phong cách đầu ra. Sử dụng seed cho các kết quả có thể tái lập trong quá trình kiểm thử.

Cửa sổ ngữ cảnh và giới hạn

Mô hình hỗ trợ cửa sổ ngữ cảnh 100,000 token. Lượng output tối đa là 16,000 token cho mỗi yêu cầu.

Giới hạn tốc độ là 300 yêu cầu mỗi phút. Vượt quá giới hạn này sẽ kích hoạt lỗi 429. Quản lý độ đồng thời để tránh giảm tốc.

Xử lý lỗi và Token

Xử lý lỗi HTTP một cách duyên dáng. 401 cho biết khóa không hợp lệ. 402 nghĩa là tiền không đủ. 429 báo hiệu giới hạn tốc độ.

Sử dụng token được tính phí chính xác. Lỗi không tiêu thụ tín dụng. Theo dõi việc sử dụng qua bảng điều khiển.

cURL

Copycurl https://api.chatbotsemfiltro.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the top ten libraries for Rust async programming"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.chatbotsemfiltro.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.chatbotsemfiltro.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Phát trực tiếp

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)