Claude API proxy: gyors kezdés és végpontok

Hitelesítés és base URL

Csatlakozzon úgy, hogy az ügyféljét a https://api.claudeapiproxy.com/v1 és egyedi API kulcsának küldése. Ezt a kulcsot azonnal létrehozza a Google-fiókkal vagy e-mail címmel történő regisztráció után. A rendszer fiontonként egy aktív kulcsot ad ki, így a kulcscsere egyszerűen megoldható. Minden kéréshez szükséges egy Authorization: Bearer <key> fej az előre fizetett egyenleg ellenőrzéséhez tokenek feldolgozása előtt.

A chat-completions végpont

Küldje el az első üzenetet a /v1/chat/completions endpoint szabványos JSON formázással. Ez az egyetlen endpoint kezeli az összes szöveggenerálási feladatot az uncensored modellünk számára. Fel kell tüntenie a model field set to uncensored a helyes inferencia-útvonal biztosítására. A rendszer csak a ténylegesen feldolgozott tokenekért számít fel díjat a promptban és a kiegészítésben.

Python SDK integráció

Base URL frissítése a meglévő OpenAI Python kliensben a kérések irányításához a mi infrastruktúránkon keresztül. Ez lehetővé teszi, hogy megtartsd a jelenlegi kódstruktúrát, miközben hozzáférhetsz a korlátlan generációs képességekhez. Az API kulcsot környezeti változóval vagy közvetlen konfigurációval add meg. A kliens pontosan úgy serializál és elemzi a válaszokat, mint a szabványos szolgáltató.

Node SDK integráció

Konfigurálja a Node.js SDK-t, hogy a mi alap URL-ünkre mutasson, miközben megőrzi a standard kérésstruktúrákat. Ez biztosítja a kompatibilitást azokkal a könyvtárakkal, amelyek specifikus OpenAI válasz-sémákat várnak. Adhatja meg a paramétereket, mint például temperature vagy top_p pontosan, ahogy máshol is. A válasz objektum tartalmazza a generált szöveget és a token felhasználás részleteit.

Streamelés és token számok

Engedélyezze a streamelést úgy, hogy stream: true valós idejű token darabok fogadására Server-Sent Events (SSE) segítségével. Ez csökkenti a nagy válaszok észlelt késleltetését és javítja a felhasználói élményt chat felületeken. A stream utolsó darabja tartalmazza a kéréshez felhasznált tokenek teljes számát. Ezeket a darabokat fokozatosan feldolgozhatja anélkül, hogy várna a teljes válaszra.

Korlátok, hibák és kontextus ablak

A modell 100 000 tokenes kontextusablakot támogat, amely magában foglalja a bemenetet és a kimenetet is. Percenként 300 kérésre és kulcsonként 8 párhuzamos kérésre van korlát. Kezelje a szabványos HTTP hibákat: 401 érvénytelen kulcsot jelez 402 azt jelenti, hogy több előleges hitelre van szüksége, és 429 sebességkorlátozást jelez. A kéréstörzs nem haladhatja meg a 8 MB-ot, a kimenet pedig 16,000 tokenben van maximalizálva, hacsak másképp nem adják meg.

cURL

Copycurl https://api.claudeapiproxy.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "get the current server time in ISO format"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.claudeapiproxy.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.claudeapiproxy.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streamelés

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)