API-dokumentaatio

Pika-aloitus: Python-integrointi

Jokaisen osion ensimmäinen lause vastaa osion otsikossa esitettyyn kysymykseen. Ensimmäinen askel on asentaa virallinen OpenAI SDK ja konfiguroida base URL. Tämä varmistaa, että asiakas reitittää pyynnöt uncensored LLM -päätepisteeseemme ilman olemassa olevan logiikan muuttamista.

• Asenna paketti pipillä.
• Aseta API-avain ja perus-URL.
• Lähetä tavallinen chat-valmiuspyyntö.

Tämä konfiguraatio toimii sekä paikallisille skripteille että tuotantopalvelimille.

Todennus ja base URL

API-avaimesi todentaa jokaisen pyynnön base URL -osoitteeseen HTTPS://api.chatbotsemfiltro.com/v1. Avain luodaan välittömästi rekisteröitymisen yhteydessä ja se on voimassa, kunnes peruutat sen.

Tallenna avain ympäristömuuttujaan välttääksesi salaisuuksien kovakoodauksen. SDK hoitaa otsikoiden ruiskutuksen automaattisesti.

Chat Completions Endpoint

Ydin päätepiste hyväksyy POST-pyyntöjä osoitteeseen /v1/chat/completions. Se odottaa JSON-kehkoa, jossa on viestit ja malliparametrit.

• Määritä rooli (järjestelmä, käyttäjä, avustaja).
• Määritä malli arvoksi "sensuroimaton".
• Vastaanota tekstitulosta.

Tämä rakenne vastaa standardia OpenAI-muotoa, mikä varmistaa yhteensopivuuden.

Virrantaisto ja funktiokutsut

Ota käyttöön suoratoisto asettamalla stream arvoon true. API palauttaa palvelimen lähettämiä tapahtumia (SSE) -lohkoja, toimittaen tokenit niiden tuotannon aikana.

Function calling tuetaan tools-parametrin kautta. Malli palauttaa työkalukutsut JSON-muodossa, jonka voit jäsentää ja suorittaa.

Parametrit: Lämpötila ja Top P

Säädä lämpötilaa luovuuteen tai determinismiin. Arvot välillä 0–2 hallitsevat satunnaisuutta. Top P suodattaa sanat kumulatiivisen todennäköisyyden mukaan.

Yhdistä nämä parametrit tuotantotyylin hienosäätämiseen. Käytä seediä toistettavien tulosten saamiseksi testauksen aikana.

Kontekstiluukku ja rajoitukset

Malli tukee 100 000 tokenin kontekstiikkunaa. Suurin tuotos on 16 000 tokenia pyyntöä kohden.

Pyyntörajoitukset ovat 300 pyyntöä minuutissa. Tämän ylitys laukaisee virhekoodin 429. Hallitse samanaikaisuutta välttääksesi rajoituksen.

Virheenkäsittely ja tokenit

Käsittele HTTP-virheet sujuvasti. 401 tarkoittaa virheellistä avainta. 402 tarkoittaa riittämätöntä saldoa. 429 tarkoittaa nopeusrajoitusta.

Token-käyttö laskutetaan tarkasti. Virheet eivät kuluta saldoa. Seuraa käyttöä hallintapaneelin kautta.

cURL

Copycurl https://api.chatbotsemfiltro.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the top ten libraries for Rust async programming"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.chatbotsemfiltro.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.chatbotsemfiltro.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Virtaus

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)