Proxy API Claude: rychlý start a endpointy

Ověření a základní URL

Připojte se tím, že ukážete svého klienta na https://api.claudeapiproxy.com/v1 a odesílání vašeho jedinečého API klíče. Tento klíč vygenerujete okamžitě po registraci pomocí Google nebo e-mailové adresy. Systém vydává jeden aktivní klíč na účet, takže rotace klíčů je jednoduchá, pokud je to potřeba. Všechny požadavky vyžadují Authorization: Bearer <key> hlavička pro ověření předplaceného zůstatku před zpracováním tokenů.

Endpoint chat-completions

Pošlete svou první zprávu do /v1/chat/completions endpoint pomocí standardního formátování JSON. Tento jediný endpoint zpracovává všechny úkoly generování textu pro náš uncensored model. Musíte zahrnout model pole nastaveno na uncensored pro zajištění správné inference cesty. Systém účtuje pouze za skutečně zpracované tokeny v promptu a completion.

Integrace Python SDK

Aktualizujte základní URL ve vašem existujícím Python klientovi OpenAI tak, aby směroval požadavky přes naši infrastrukturu. To vám umožní zachovat stávající strukturu kódu při přístupu k možnostem generování bez omezení. Předávejte svůj API klíč prostřednictvím proměnné prostředí nebo přímé konfigurace. Klient zpracovává serializaci a analýzu odpovědí přesně jako standardní poskytovatel.

Integrace SDK pro Node

Nastavte Node.js SDK tak, aby ukazovalo na naši základní URL při zachování standardních struktur požadavků. To zajišťuje kompatibilitu s knihovnami, které očekávají specifické schémata odpovědí OpenAI. Můžete předat parametry jako temperature nebo top_p přesně tak, jak byste očekávali jinde. Odpovědní objekt obsahuje vygenerovaný text a detaily o využití tokenů.

Streamování a počty tokenů

Povolte streamování nastavením stream: true pro přijímání reálných tokenů prostřednictvím Server-Sent Events. To snižuje vnímanou latenci u velkých odpovědí a zlepšuje uživatelský zážitek v chatových rozhraních. Poslední chunk ve streamu obsahuje celkové využití tokenů pro požadavek. Tyto chunky můžete parsovat postupně, aniž byste čekali na úplné dokončení.

Limity, chyby a kontextové okno

Model podporuje kontextové okno o velikosti 100 000 tokenů kombinující jak vstup, tak výstup. Limitujete se na 300 požadavků za minutu a 8 souběžných požadavků na klíč. Řešte standardní chyby HTTP: 401 označuje neplatný klíč, 402 znamená, že potřebujete více předplacených kreditů, a 429 signály omezení rychlosti. Těla požadavků nesmí překročit 8 MB a maximální výstup je omezen na 16 000 tokenů, pokud není uvedeno jinak.

cURL

Copycurl https://api.claudeapiproxy.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "get the current server time in ISO format"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.claudeapiproxy.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.claudeapiproxy.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streamování

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)