Hướng dẫn nhanh: Proxy tương thích OpenAI không kiểm duyệt

Base URL và ID Mô hình

Sử dụng điểm cuối proxy của chúng tôi với các SDK OpenAI chính thức. Chỉ định máy khách của bạn đến https://api.proxyopenai.com/v1 và đặt mô hình thành uncensored. Điều này hoạt động vì chúng tôi mô phỏng lược đồ chat-completions tiêu chuẩn. Bạn không cần thư viện mới.

Xác thực dựa trên token Bearer. Truyền khóa API của bạn trong Authorization header. Chúng tôi hỗ trợ truyền dữ liệu qua Sự kiện được gửi bởi máy chủ (Server-Sent Events). Thông tin sử dụng token xuất hiện trong chunk cuối cùng.

• Điểm cuối: POST /v1/chat/completions
• Mô hình: uncensored
• Auth: Token Bearer

Tích hợp SDK Python

Cài đặt gói OpenAI tiêu chuẩn và cấu hình URL cơ sở. Truyền khóa của bạn vào hàm tạo client. Gửi yêu cầu đến endpoint chat completions. Phản hồi chứa văn bản được tạo ra trong choices[0].message.content.

Đặt max_tokens để kiểm soát độ dài đầu ra. Mô hình của chúng tôi cho phép số token tối đa vừa với cửa sổ ngữ cảnh. Lỗi trả về các mã trạng thái HTTP tiêu chuẩn. Kiểm tra đối tượng phản hồi để biết chi tiết.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.proxyopenai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Tích hợp SDK Node.js

Nhập thư viện OpenAI và đặt các biến môi trường. Xác định rõ URL cơ sở. Tạo một yêu cầu hoàn thành trò chuyện với các thông điệp của bạn. Chờ phản hồi để lấy nội dung.

Cách tiếp cận này hoạt động với bất kỳ máy khách tương thích OpenAI nào. Bạn có thể sử dụng cùng mã nguồn cho các proxy khác. Điều chỉnh các tham số nhiệt độ và top_p khi cần. API trả về JSON theo mặc định.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.proxyopenai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Function Calling và chế độ JSON

Bật đầu ra có cấu trúc với chế độ JSON. Đặt response_format để {"type": "json_object"}. Mô hình trả về JSON hợp lệ có thể phân tích cú pháp trực tiếp. Điều này đảm bảo các cấu trúc dữ liệu nhất quán.

Sử dụng gọi hàm để tích hợp công cụ. Xác định công cụ trong thân yêu cầu. Mô hình chọn hàm thích hợp. Truyền đối số và thực thi công cụ. Kết quả được đưa lại vào cuộc trò chuyện. Điều này hỗ trợ các quy trình làm việc phức tạp.

Phản hồi luồng

Bật chế độ streaming để phân phối token theo thời gian thực. Đặt stream true trong yêu cầu của bạn. API trả về một luồng các phần. Mỗi phần chứa nội dung một phần.

Phân tích luồng Server-Sent Events. Nối nội dung văn bản. Theo dõi chunk cuối cùng. Nó bao gồm thống kê sử dụng token. Điều này giảm đáng kể độ trễ cảm nhận.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Giới hạn tốc độ và Token

Hãy tôn trọng các giới hạn tốc độ để tránh lỗi. Bạn được 300 yêu cầu mỗi phút. Cho phép 8 yêu cầu đồng thời trên mỗi khóa. Thân yêu cầu phải nhỏ hơn 8 MB.

Cửa sổ ngữ cảnh là 100,000 token. Điều này bao gồm prompt và kết quả. Lỗi và từ chối là miễn phí. Tín dụng chỉ được tính cho các token thành công. Theo dõi việc sử dụng của bạn qua bảng điều khiển.

cURL

Copycurl https://api.proxyopenai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all files in the src directory"}]
  }'