Proxy API Claude: hướng dẫn bắt đầu nhanh và các điểm cuối

Xác thực và base URL

Kết nối bằng cách trỏ client của bạn đến https://api.claudeapiproxy.com/v1 và gửi khóa API duy nhất của bạn. Bạn tạo khóa này ngay sau khi đăng ký bằng Google hoặc địa chỉ email. Hệ thống cấp một khóa hoạt động duy nhất cho mỗi tài khoản, vì vậy việc xoay khóa rất dễ dàng nếu cần. Mọi yêu cầu đều yêu cầu một Authorization: Bearer <key> header để xác minh số dư trả trước của bạn trước khi xử lý các token.

Điểm cuối chat-completions

Gửi tin nhắn đầu tiên đến /v1/chat/completions endpoint sử dụng định dạng JSON tiêu chuẩn. Endpoint đơn này xử lý tất cả các nhiệm vụ tạo văn bản cho mô hình không kiểm duyệt của chúng tôi. Bạn phải bao gồm model field được đặt thành uncensored để đảm bảo đường dẫn suy luận chính xác. Hệ thống chỉ tính phí cho các token thực tế được xử lý trong prompt và phần hoàn thành.

Tích hợp Python SDK

Cập nhật URL cơ sở trong khách hàng Python OpenAI hiện có của bạn để định tuyến yêu cầu qua cơ sở hạ tầng của chúng tôi. Điều này cho phép bạn giữ nguyên cấu trúc mã hiện tại trong khi truy cập các khả năng tạo không giới hạn. Truyền khóa API của bạn thông qua biến môi trường hoặc cấu hình trực tiếp. Khách hàng xử lý tuần tự hóa và phân tích phản hồi chính xác như nhà cung cấp tiêu chuẩn.

Tích hợp SDK Node

Cấu hình SDK Node.js để trỏ đến URL cơ sở của chúng tôi trong khi vẫn duy trì các cấu trúc yêu cầu tiêu chuẩn. Điều này đảm bảo tương thích với các thư viện mong đợi các lược đồ phản hồi OpenAI cụ thể. Bạn có thể truyền các tham số như temperature hoặc top_p chính xác như bạn sẽ làm ở nơi khác. Đối tượng phản hồi chứa văn bản được tạo và chi tiết sử dụng token.

Streaming và số lượng token

Bật phát trực tiếp bằng cách đặt stream: true để nhận các chunk token theo thời gian thực qua Server-Sent Events. Điều này giảm độ trễ cảm nhận đối với các phản hồi lớn và cải thiện trải nghiệm người dùng trong các giao diện trò chuyện. Chunk cuối cùng trong luồng chứa tổng số token đã sử dụng cho yêu cầu. Bạn có thể phân tích các chunk này theo cách tăng dần mà không cần chờ đợi phản hồi hoàn tất.

Giới hạn, lỗi và cửa sổ ngữ cảnh

Mô hình hỗ trợ cửa sổ ngữ cảnh 100.000 token kết hợp cả đầu vào và đầu ra. Bạn bị giới hạn ở 300 yêu cầu mỗi phút và 8 yêu cầu đồng thời mỗi khóa. Xử lý các lỗi HTTP tiêu chuẩn: 401 cho biết khóa không hợp lệ, 402 có nghĩa là bạn cần thêm tín dụng trả trước, và 429 tín hiệu giới hạn tốc độ. Thân yêu cầu không được vượt quá 8 MB, và đầu ra tối đa được giới hạn ở 16,000 token trừ khi được chỉ định khác.

cURL

Copycurl https://api.claudeapiproxy.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "get the current server time in ISO format"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.claudeapiproxy.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.claudeapiproxy.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Phát trực tiếp

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)