Proxy Claude API: szybki start i endpointy

Uwierzytelnianie i URL bazowy

Połącz, wskazując swojego klienta na https://api.claudeapiproxy.com/v1 i wysyłając swój unikalny klucz API. Generujesz ten klucz natychmiast po zalogowaniu się za pomocą Google lub adresu e-mail. System wydaje jeden aktywny klucz na konto, więc rotacja kluczy jest prosta, jeśli jest to konieczne. Wszystkie żądania wymagają Authorization: Bearer <key> Nagłówek do weryfikacji salda z góry opłaconego przed przetwarzaniem tokenów.

Endpoint chat-completions

Wyślij pierwszą wiadomość do /v1/chat/completions endpoint używając standardowego formatowania JSON. Ten pojedynczy endpoint obsługuje wszystkie zadania generowania tekstu dla naszego modelu uncensored. Musisz dołączyć model pole ustawione na uncensored do zapewnienia właściwej ścieżki wnioskowania. System nalicza opłaty tylko za faktycznie przetworzone tokeny w promptcie i completion.

Integracja Python SDK

Zaktualizuj URL bazowy w istniejącym kliencie Python OpenAI, aby przekierować żądania przez naszą infrastrukturę. Pozwala to zachować obecną strukturę kodu przy jednoczesnym uzyskaniu dostępu do możliwości generowania bez ograniczeń. Przekaż swój klucz API poprzez zmienną środowiskową lub bezpośrednią konfigurację. Klient obsługuje serializację i parsowanie odpowiedzi dokładnie jak standardowy dostawca.

Integracja SDK Node

Skonfiguruj pakiet Node.js, aby wskazywał na nasz bazowy adres URL, zachowując jednocześnie standardowe struktury żądań. Zapewnia to kompatybilność z bibliotekami, które oczekują określonych schematów odpowiedzi OpenAI. Możesz przekazywać parametry takie jak temperature lub top_p dokładnie tak, jak gdzie indziej. Obiekt odpowiedzi zawiera wygenerowany tekst i szczegóły użycia tokenów.

Strumieniowanie i liczby tokenów

Włącz strumieniowanie, ustawiając stream: true otrzymywania rzeczywistych fragmentów tokenów za pośrednictwem Server-Sent Events. Zmniejsza to postrzeganą latencję dla dużych odpowiedzi i poprawia doświadczenie użytkownika w interfejsach czatu. Ostatni fragment w strumieniu zawiera całkowite zużycie tokenów dla żądania. Możesz parsować te fragmenty inkrementalnie, bez oczekiwania na pełne zakończenie generowania.

Limity, błędy i okno kontekstu

Model obsługuje okno kontekstowe 100 000 tokenów łączące zarówno input, jak i output. Limit to 300 żądań na minutę i 8 równoległych żądań na klucz. Obsługuj standardowe błędy HTTP: 401 wskazuje na nieprawidłowy klucz, 402 oznacza, że potrzebujesz więcej kredytu prepay, i 429 sygnalizują ograniczenie szybkości. Ciała żądań nie mogą przekraczać 8 MB, a maksymalna ilość wyjściowa jest ograniczona do 16 000 tokenów, chyba że określono inaczej.

cURL

Copycurl https://api.claudeapiproxy.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "get the current server time in ISO format"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.claudeapiproxy.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.claudeapiproxy.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Strumieniowanie

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)