Claude API -välityspalvelin: pika-aloitus ja päätepisteet

Todennus ja base URL

Connect by pointing your client to https://api.claudeapiproxy.com/v1 ja ainutlaatikkosi API-avaimesi lähettäminen. Luo tämä avain välittömästi kirjautumisen jälkeen Google-tilillä tai sähköpostiosoitteella. Järjestelmä myöntää yhden aktiivisen avauksen per tili, joten avainten kierto on suoraviivaista tarvittaessa. Kaikkiin pyyntöihin vaaditaan Authorization: Bearer <key> header varmistaaksesi esimaksatun saldonsi ennen tokenien käsittelyä.

chat-completions-päätepiste

Lähetä ensimmäinen viesti /v1/chat/completions päätepiste standardin JSON-muotoilun avulla. Tämä yksittäinen päätepiste käsittelee kaikki tekstin generointitehtävät uncensored-mallillemme. Sinun on sisällytettävä model kenttä asetettu uncensored varmistamaan oikea inferenssireitti. Järjestelmä laskuttaa vain todellisten promptin ja completionin prosessoitujen tokenien perusteella.

Python SDK -integraatio

Päivitä olemassa olevan OpenAI Python -asiakkaan perus-URL ohjaamaan pyynnöt infrastruktuurimme kautta. Tämä mahdollistaa olemassa olevan koodirakenteen säilyttämisen samalla kun pääset rajoittamattomiin luontiominaisuuksiin. Syötä API-avaimesi ympäristömuuttujan tai suoran konfiguraation kautta. Asiakas käsittelee serialisoinnin ja vastauksen jäsentämisen täsmälleen kuten vakio tarjoaja.

Node SDK -integraatio

Määritä Node.js SDK osoittamaan base URLiimme säilyttäen vakiot pyynnön rakenteet. Tämä varmistaa yhteensopivuuden kirjastojen kanssa, jotka odottavat tiettyjä OpenAI-vastauskaavoja. Voit välittää parametreja kuten temperature tai top_p täsmälleen kuten muuallakin. Vastausobjekti sisältää luodun tekstin ja token-käytön tiedot.

Virran ja tokenimäärät

Ota streamaus käyttöön asettamalla stream: true vastaanottaaksesi reaaliaikaisia token-palstoja Server-Sent Events -tekniikalla. Tämä vähentää havaittua viivettä suurissa vastauksissa ja parantaa käyttäjäkokemusta keskusteluliittymissä. Virran viimeinen palsta sisältää pyynnön kokonaistoken-käytön. Voit jäsentää nämä palstat osittain odottamatta koko vastauksen valmistumista.

Rajoitukset, virheet ja kontekstiikkuna

Malli tukee 100 000 tokenin kontekstiikkunaa, joka yhdistää sekä syötteen että tuloksen. Sinulla on rajoitus 300 pyyntöön minuutissa ja 8 samanaikaiseen pyyntöön avainta kohden. Käsittele yleiset HTTP-virheet: 401 viittaa virheelliseen avaimeen, 402 tarkoittaa, että tarvitset enemmän esimaksullista saldoa, ja 429 signaalit nopeusrajoituksesta. Pyynnön runko ei voi ylittää 8 Mt, ja maksimitulostus on rajoitettu 16 000 tokeniin, ellei toisin määrätä.

cURL

Copycurl https://api.claudeapiproxy.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "get the current server time in ISO format"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.claudeapiproxy.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.claudeapiproxy.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Virtaus

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)