빠른 시작: 무제한 OpenAI 호환 프록시

Base URL 및 모델 ID

공식 OpenAI SDK와 함께 프록시 엔드포인트를 사용하세요. 클라이언트를 https://api.proxyopenai.com/v1 모델을 다음으로 설정하세요 uncensored이는 표준 chat-completions 스키마를 모방하기 때문에 작동합니다. 새로운 라이브러리가 필요하지 않습니다.

인증은 Bearer 토큰에 기반합니다. API 키를 다음에 전달하세요. Authorization header. 당사는 서버 전송 이벤트(SSE)를 통한 스트리밍을 지원합니다. 토큰 사용량은 마지막 청크에 표시됩니다.

• 엔드포인트: POST /v1/chat/completions
• 모델: uncensored
• Auth: Bearer token

Python SDK 통합

표준 OpenAI 패키지를 설치하고 베이스 URL을 구성하세요. 키를 클라이언트 생성자에 전달하세요. 채팅 완료 엔드포인트에 요청을 보내세요. 응답에는 생성된 텍스트가 포함되어 있습니다. choices[0].message.content.

max_tokens를 설정하여 출력 길이를 제어합니다. 이 모델은 창(window)에 맞을 수 있는 만큼의 토큰을 허용합니다. 오류 발생 시 표준 HTTP 상태 코드가 반환됩니다. 자세한 내용은 응답 객체를 확인하세요.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.proxyopenai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js SDK 통합

OpenAI 라이브러리를 가져오고 환경 변수를 설정하세요. 기본 URL을 명시적으로 정의하세요. 메시지 목록으로 채팅 완성 요청을 만드세요. 응답을 기다려 내용을 얻으세요.

이 방식은 모든 OpenAI 호환 클라이언트와 함께 작동합니다. 다른 프록시에도 동일한 코드를 사용할 수 있습니다. 필요에 따라 temperature와 top_p 매개변수를 조정하세요. API는 기본적으로 JSON을 반환합니다.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.proxyopenai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

함수 호출 및 JSON 모드

JSON 모드를 사용하여 구조화된 출력을 활성화합니다. 를 설정 response_format 수신하여 {"type": "json_object"}. 모델은 직접 파싱할 수 있는 유효한 JSON을 반환합니다. 이는 일관된 데이터 구조를 보장합니다.

도구 통합을 위해 함수 호출을 사용하세요. 요청 본문에 도구를 정의하세요. 모델은 적절한 함수를 선택합니다. 인수를 전달하고 도구를 실행합니다. 결과가 대화에 다시 피드백됩니다. 이는 복잡한 워크플로우를 지원합니다.

스트리밍 응답

실시간 토큰 전달을 위한 스트리밍 활성화. 요청에서 stream 매개변수를 stream 요청에서 true로 설정합니다. API는 청크의 스트림을 반환합니다. 각 청크에는 부분 콘텐츠가 포함됩니다.

Server-Sent Events 스트림을 파싱하세요. 텍스트 콘텐츠를 연결하세요. 마지막 청크를 모니터링하세요. 여기에는 토큰 사용량 통계가 포함됩니다. 이는 지각된 지연 시간을 크게 줄여줍니다.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

속도 제한 및 토큰

오류를 피하기 위해 속도 제한을 준수하세요. 분당 300회 요청이 허용됩니다. 키당 최대 8개의 동시 요청을 허용하세요. 요청 본문은 8 MB 미만이어야 합니다.

컨텍스트 윈도우는 100,000 토큰입니다. 여기에는 프롬프트와 생성된 응답이 포함됩니다. 오류와 거절은 무료입니다. 크레딧은 성공적인 토큰에만 청구됩니다. 대시보드를 통해 사용량을 모니터링하세요.

cURL

Copycurl https://api.proxyopenai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all files in the src directory"}]
  }'