מדריך התחלה מהירה: פרוקסי תואם OpenAI לא צנזורה

כתובת URL בסיסית ומזהה מודל

השתמשו בנקודת הקצה הפרוקסי שלנו עם ערכות ה-SDK הרשמיות של OpenAI. ציינו את הלקוח שלכם ל- https://api.proxyopenai.com/v1 וקבע את המודל ל uncensored. זה עובד כי אנו מדמים את סכמת ה-chat-completions הסטנדרטית. אינכם צריכים ספריות חדשות.

האימות מסתמך על טוקן Bearer. העבירו את מפתח ה-API ב- Authorization header. אנו תומכים בסטרימינג באמצעות אירועים מוכוונים שרת (SSE). שימוש בטוקנים מופיע בחלק הסופי.

• נקודת קצה: POST /v1/chat/completions
• מודל: uncensored
• Auth: אסימון Bearer

אינטגרציית SDK Python

התקן את החבילה הסטנדרטית של OpenAI וקבע את כתובת ה-URL הבסיסית. העבר את המפת שלך לקונסטרוקטור הלקוח. בצע בקשה לנקודת הקצה של השלמת צ'אט. התגובה מכילה את הטקסט שנוצר ב choices[0].message.content.

הגדר max_tokens לשליטה באורך הפלט. המודל שלנו מאפשר כל מספר טוקנים שמתאים לחלון. שגיאות מחזירות קודי סטטוס HTTP סטנדרטיים. בדוק את אובייקט התגובה לפרטים.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.proxyopenai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

שילוב SDK Node.js

ייבאו את ספריית OpenAI והגדירו את משתני הסביבה. הגדירו את כתובת הבסיס במפורש. צרו בקשת השלמת צ'אט עם ההודעות שלכם. המתינו לתגובה כדי לקבל את התוכן.

גישה זו עובדת עם כל לקוח התואם ל-OpenAI. ניתן להשתמש באותו קוד עבור פרוקסיים אחרים. התאימו את פרמטרי הטמפרטורה ו-top_p לפי הצורך. ה-API מחזיר JSON כברירת מחדל.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.proxyopenai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

פקודות פונקציה ומצב JSON

אפשרו פלטות מבניות עם מצב JSON. הגדירו response_format אל {"type": "json_object"}. המודל מחזיר JSON תקף שניתן לנתח ישירות. זה מבטיח מבני נתונים עקביים.

השתמש ב-calling פונקציות לשילוב כלים. הגדר כללים בגוף הבקשה. המודל בוחר את הפונקציה המתאימה. העבר ארגומנטים ובצע את הכלי. התוצאות מזינות בחזרה לשיחה. זה תומך בעבודות זרימה מורכבות.

תגובות בסטרימינג

אפשרו זרימה למסירת טוקנים בזמן אמת. הגדירו stream כדי לקבל ערך true בבקשה. ה-API מחזיר זרם של חלקים. כל חלק מכיל תוכן חלקי.

נתח את זרם Server-Sent Events. חבר את תוכן הטקסט. עקוב אחר הנתח הסופי. הוא כולל סטטיסטיקות שימוש במילים. זה מפחית משמעותית את תחוית העיכוב.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

מגבלות קצב וטוקנים

כבדו את מגבלות הקצב כדי להימנע משגיאות. מותר לכם 300 בקשות לדקה. 8 בקשות מקבילות לכל מפתח. גוף הבקשה חייב להיות מתחת ל-8 MB.

חלון ההקשר מכיל 100,000 טוקנים. זה כולל פקודה ותשובה. שגיאות ודחיות הן בחינם. חיוב אשראי רק על טוקנים מוצלחים. עקבו אחר השימוש שלכם דרך לוח הבקרה.

cURL

Copycurl https://api.proxyopenai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all files in the src directory"}]
  }'