Pika-aloitus: rajoittamaton OpenAI-yhteensopiva välityspalvelin

Perus-URL ja mallin tunnus

Käytä proxy-päätepistettämme virallisten OpenAI-SDK:iden kanssa. Ohjaa asiakasohjelmistosi osoitteeseen https://api.proxyopenai.com/v1 ja aseta malli arvoksi uncensored. Tämä toimii, koska jäljittelemme vakiota chat-completions-skeemaa. Sinun ei tarvitse uusia kirjastoja.

Todennus perustuu Bearer-tokeniin. Lähetä API-avaimesi Authorization header. Tukeamme streamausta Server-Sent Events -tekniikalla. Tokenkäyttö näkyy viimeisessä osassa.

• Päätepiste: POST /v1/chat/completions
• Malli: uncensored
• Auth: Bearer-token

Python SDK -integraatio

Asenna virallinen OpenAI-paketti ja määritä base URL. Anna avasi asiakkaan konstruktorille. Tee pyyntö chat-completions-päätepisteeseen. Vastaus sisältää luodun tekstin choices[0].message.content.

Aseta max_tokens hallitsemaan tuotoksen pituutta. Mallimme mahdollistaa niin monta tokeniä kuin ikkunaan mahtuu. Virheet palauttavat vakiomaiset HTTP-vastauskoodit. Tarkista vastausobjekti lisätietoja varten.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.proxyopenai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js SDK:n integraatio

Tuo OpenAI-kirjasto ja aseta ympäristömuuttujat. Määritä base URL eksplisiittisesti. Luo keskustelulopetuspyyntö viestiesi kanssa. Odota vastausta saadaksesi sisällön.

Tämä lähestymistapa toimii minkä tahansa OpenAI-yhteensopivan asiakkaan kanssa. Voit käyttää samaa koodia muiden välityspalvelimien kanssa. Säädä lämpötila- ja top_p-parametreja tarpeen mukaan. API palauttaa JSON-muodossa oletuksena.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.proxyopenai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Funktikutsut ja JSON-tila

Ota käyttöön rakenteelliset tulokset JSON-tilalla. Aseta response_format vastaan {"type": "json_object"}. Malli palauttaa JSON-muodon, joka voidaan jäsentää suoraan. Tämä varmistaa johdonmukaiset datastruktuurit.

Käytä funktiokutsuja työkaluintegraatioon. Määrittele työkalut pyyntöruumiissa. Malli valitsee sopivan funktion. Välitä argumentit ja suorita työkalu. Tulokset syötetään takaisin keskusteluun. Tämä tukee monimutkaisia työvuoksia.

Streamausvastaukset

Ota suoratoisto käyttöön reaaliaikaiseen tokenien toimitukseen. Aseta stream arvoon true pyynnössäsi. API palauttaa striimin lohkoista. Jokainen lohko sisältää osittaista sisältöä.

Jäsennä Server-Sent Events -virta. Yhdistä tekisisältö. Valvo loppupalikkaa. Se sisältää token-käytöstilastot. Tämä vähentää havaittua viivettä merkittävästi.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Nopeusrajoitukset ja tokenit

Kunnioita nopeusrajoituksia välttääksesi virheet. Saat 300 pyyntöä minuutissa. Salli 8 samanaikaista pyyntöä per avain. Pyynnön kehon koon on pysyttävä alle 8 Mt.

Kontekstuuri-ikkuna on 100 000 tokenia. Tämä sisältää promptin ja vastauksen. Virheet ja hylkäykset ovat ilmaisia. Krediitti laskutetaan vain onnistuneista tokenista. Seuraa käyttöäsi hallintapaneelin kautta.

cURL

Copycurl https://api.proxyopenai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all files in the src directory"}]
  }'