Dokumentointi openai-yhteensopivalle API-avaimelle

Todennus ja base URL

Käytä luomaa avaintasi annetulla perus-URL-osoitteella yhdistääksesi välittömästi. Päätepiste on https://api.openaicompatibleapikey.com/v1 ja toimii minkä tahansa OpenAI-yhteensopivan asiakkaan kanssa. Saat yhden aktiivisen avaimen tilille; uuden luominen korvaa vanhan. Todennus hoidetaan Authorization header arvo Bearer mekanismin. Puhelinnumeroa ei tarvita rekisteröitymiseen, ja voit aloittaa ilmaisella $0.50 kokeilulla.

Ensimmäinen pyyntö curlilla

Lähetä yksinkertainen viesti varmistamaan yhteytesi ja uncensored-malli. Pyyntö käyttää standardia POST /v1/chat/completions endpoint mallin tunnuksena uncensored. Tämä vahvistaa, että API-avaimesi on kelvollinen ja päättöpiste on saavutettavissa ennen integraatiota sovellukseesi. Vastaus sisältää token-käytön ja luodun tekstin.

Copycurl https://api.openaicompatibleapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Calculate the total price including tax"}]
  }'

Python SDK -integraatio

Integroi API Python-projekteihisi ohitta oletusbase URL. Tämä mahdollistaa virallisen openai kirjasto avainton LLM:n kanssa muuttamatta koodilogiikkaasi. Syötä API-avaimesi ja tietty base_url asiakkaan alustuksessa. Mallin ID pysyy uncensored kaikkiin pyyntöihin.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node SDK -integraatio

Yhdistä Node.js-sovelluksesi asettamalla baseURL ja apiKey ominaisuuksia. Tämä varmistaa yhteensopivuuden olemassa olevan OpenAI-yhteensopivan asiakaskoodin kanssa. Voit jatkaa vakioparametrien kuten messages ja model. Asiakasohjelma ohjaa pyynnöt isännöimiin palvelimiimme epäröimätöntä tuotantoa varten.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Virtaavat vastaukset ja tokenien käyttö

Ota streamaus käyttöön asettamalla stream: true pyyntöparametreissa. Sovellusliittymä palauttaa Server-Sent Events (SSE) -viestejä reaaliaikaiseen tokenien toimitukseen. Tokenien käyttötilastot sisällytetään virran viimeiseen lohkoon. Tämä mahdollistaa kustannusten ja kontekstin käytön seurannan tekstin tuotannon aikana. Malli tukee 100,000 tokenin kontekstiikkunaa.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Nopeusrajoitukset, virheet ja rajat

Seuraa kiintiötäsi välttääksesi palvelukatkoksia. Raja on 300 pyyntöä minuutissa per avain ja 8 samanaikaista pyyntöä. Virhe 401 tarkoittaa virheellistä avainta, kun taas 402 ilmoittaa riittämättömästä luottokreditistä. Virheet ja kielletyt vastaukset ovat ilmaisia. Kontekstiluukku on 100 000 tokenniä, ja maksimi tulospituus on 16 000 tokenniä pyyntöä kohden. Luottokrediti ei vanhene.