क्विकस्टार्ट: अनसेंसर्ड OpenAI कम्पैटिबल प्रॉक्सी

बेस URL और मॉडल ID

हमारे प्रॉक्सी एंडपॉइंट का आधिकारिक OpenAI SDKs के साथ उपयोग करें। अपने क्लाइंट को इंगित करें https://api.proxyopenai.com/v1 और मॉडल को इस पर सेट करें uncensored. यह काम करता है क्योंकि हम मानक चैट-संपन्नता स्कीमा की नकल करते हैं। आपको नई लाइब्रेरी की आवश्यकता नहीं है।

प्रमाणीकरण एक Bearer टोकन पर निर्भर करता है। अपनी API कुंजी Authorization हेडर। हम Server-Sent Events के माध्यम से स्ट्रीमिंग का समर्थन करते हैं। टोकन उपयोग अंतिम चंक में दिखाई देता है।

• एंडपॉइंट: POST /v1/chat/completions
• मॉडल: uncensored
• Auth: Bearer टोकन

Python SDK इंटीग्रेशन

मानक OpenAI पैकेज इंस्टॉल करें और बेस यूआरएल कॉन्फ़िगर करें। अपने की को क्लिएंट कंस्ट्रक्टर में पास करें। चैट कंप्लीशन्स एंडपॉइंट पर एक रिक्वेस्ट भेजें। रिस्पॉन्स में जनरेटेड टेक्स्ट शामिल होता है choices[0].message.content.

आउटपुट की लंबाई को नियंत्रित करने के लिए max_tokens सेट करें। हमारा मॉडल विंडो में फिट होने के अनुसार उतने ही टोकन की अनुमति देता है। त्रुटियां मानक HTTP स्टेटस कोड लौटाती हैं। विवरण के लिए रिस्पॉन्स ऑब्जेक्ट की जांच करें।

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.proxyopenai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js SDK इंटीग्रेशन

OpenAI लाइब्रेरी को इम्पोर्ट करें और पर्यावरण चर सेट करें। बेस URL को स्पष्ट रूप से परिभाषित करें। अपने संदेशों के साथ एक चैट पूर्णता अनुरोध बनाएं। सामग्री प्राप्त करने के लिए प्रतिक्रिया को अवेट करें।

यह दृष्टिकोण किसी भी OpenAI-कम्पैटिबल क्लाइंट के साथ काम करता है। आप अन्य प्रॉक्सी के लिए वही कोड उपयोग कर सकते हैं। आवश्यकतानुसार तापमान (temperature) और top_p पैरामीटर समायोजित करें। API डिफ़ॉल्ट रूप से JSON लौटाता है।

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.proxyopenai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

फंक्शन कॉलिंग और JSON मोड

JSON मोड के साथ संरचित आउटपुट सक्षम करें। सेट response_format को {"type": "json_object"}. मॉडल वैध JSON लौटाता है जो सीधे पार्स हो जाता है। यह निरंतर डेटा संरचनाओं को सुनिश्चित करता है।

टूल एकीकरण के लिए फ़ंक्शन कॉलिंग का उपयोग करें। अनुरोध बॉडी में टूल परिभाषित करें। मॉडल उचित फ़ंक्शन का चयन करता है। तर्क पास करें और टूल निष्पादित करें। परिणाम संवाद में वापस फ़ीड होते हैं। यह जटिल वर्कफ़्लो का समर्थन करता है।

स्ट्रीमिंग रिस्पॉन्सेस

वास्तविक समय में टोकन वितरण के लिए स्ट्रीमिंग सक्षम करें। stream पैरामीटर को stream अपने अनुरोध में true पर सेट करें। API चंक की एक स्ट्रीम लौटाता है। प्रत्येक चंक आंशिक सामग्री रखता है।

सर्वर-सेंट इवेंट्स (SSE) स्ट्रीम को पार्स करें। टेक्स्ट सामग्री को कॉन्कैटिनेट करें। अंतिम चंक के लिए मॉनिटर करें। इसमें टोकन उपयोग के आंकड़े शामिल होते हैं। इससे प्रतिधारी विलंबता काफी कम हो जाती है।

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

रेट लिमिट्स और टोकन

त्रुटियों से बचने के लिए दर सीमाओं का सम्मान करें। आपको प्रति मिनट 300 अनुरोध मिलते हैं। प्रति कुंजी 8 समवर्ती अनुरोधों की अनुमति है। अनुरोध बॉडी 8 MB से कम रहनी चाहिए।

संदर्भ विंडो 100,000 टोकन की है। इसमें प्रॉम्प्ट और कम्पलीशन शामिल हैं। त्रुटियां और अस्वीकृतियां मुफ्त हैं। सफल टोकन के लिए ही क्रेडिट चार्ज होता है। डैशबोर्ड के माध्यम से अपने उपयोग की निगरानी करें।

cURL

Copycurl https://api.proxyopenai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all files in the src directory"}]
  }'