Pris for Claude: Ret almindelige fejl med proxy-fakturering

Forståelse af tælling af tokens i uncensored-modeller

Den første sætning i hvert afsnit besvarer spørgsmålet i overskriften. Token-tælling er den fundamentale enhed for fakturering i enhver LLM-proxy. Du betaler for hvert token sendt i promptet og hvert token genereret i svaret. Dette inkluderer systeminstruktioner, samtalehistorik og formatteringskarakterer.

Mange udviklere antager, at kun den synlige tekst tæller. Dette er forkert. Hvert mellemrum, hver ny linje og hver JSON-klamme forbruger tokens. Når du bruger en uncensored-model, fyldes kontekstvinduet hurtigere, fordi disse modeller ofte kræver mere udførlig ræsonnement for at opretholde sammenhæng uden sikkerhedsfiltre.

Vores API opkræver $0.15 per 1M input-tokens og $0.50 per 1M output-tokens. Denne sats gælder for faktisk token-forbrug. Fejl opkræver ikke hos dig. Afvisninger er gratis. Denne struktur sikrer, at du kun betaler for faktisk beregning.

Copycurl https://api.claudeapiproxy.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "get the current server time in ISO format"}]
  }'

• Tæl hvert tegn i din systemprompt.
• Inkluder samtalehistorik i dit inputtælling.
• Konto til JSON-formatoverhead.
• Verificér tokenantal, før du sender store payloads.

Kontekstvindets fælde: 100k input vs 16k output

Vores API giver et kontekstvindue på 100.000 tokens, men du kan kun generere 16.000 tokens pr. anmodning. Denne asymmetri skaber en faktureringsfælde for brugere, der antager uendeligt output.

Hvis dit prompt forbruger 90.000 tokens, har du kun 10.000 tokens tilbage til output. Hvis du anmoder om et maksimum på 16.000 tokens, vil modellen stoppe tidligere. Du betaler stadig for de tokens, der faktisk genereres. Dette er ikke en fejl. Det er en funktion af store kontekstvinduer.

Mange brugere spilder kredit ved at sætte max_tokens for højt. Hvis modellen løber tør for kontekst, stopper den naturligt. Du betaler for, hvad den producerer. Du betaler ikke for, hvad den ikke kunne producere.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.claudeapiproxy.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Overvåg altid din resterende kontekst. Brug /v1/models endpointet til at verificere nuværende grænser. Justér din prompt-længde for at efterlade plads til output. Dette forhindrer uforventede gebyrer fra afkortede svar.

Streaming-respons og fakturering af sidste chunk

Streaming ændrer ikke den samlede pris. Du betaler for de samme tokens, uanset om du modtager dem øjeblikkeligt eller på én gang. Forskellen ligger i, hvordan du sporer forbruget.

Når du streamer, modtager du flere chunks. Hver chunk indeholder en del af svaret. Den sidste chunk indeholder oversigten over token-forbrug. Her verificerer du det præcise token-tal.

Nogle proxies tager betaling pr. chunk. Vores gør ikke. Vi opkræver for de totale genererede tokens. Streaming-tilstanden er til brugeroplevelse, ikke for fakturerings effektivitet.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

• Stream for realtids-UI-opdateringer.
• Ignorer mellemste chunks for fakturering.
• Læs den sidste chunk for token-tal.
• Verificér, at forbruget matcher dine forventninger.

Overhead ved værktøjsbrug i funktionskald

Function calling tilføjer betydelig overhead, fordi værktøjsdefinitioner gentages i hver anmodning. Hver gang du kalder en funktion, skal modellen genlæse værktøjsskemaet.

Hvis du har fem værktøjer, hver med 1.000 tokens af definitioner, tilføjer du 5.000 tokens til hver anmodning. Dette øger din inputomkostning betydeligt. For lange samtaler akkumuleres denne overhead.

Vores API understøtter function calling med tools og tool_choice. Du kan optimere ved at reducere tool-kompleksitet. Kombiner relaterede tools i enkelt-schemas. Dette reducerer token-forbruget pr. request.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.claudeapiproxy.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Overvåg dit tokenforbrug nøje. Højt volumen af funktionskald kan fordoble dine inputomkostninger. Brug caching til værktøgsdefinitioner, hvis muligt. Dette hjælper med at få din forudbetalte kredit til at holde længere.

Hvorfor afslag er gratis, men gentagelser ikke er det

Afvisninger er gratis, fordi der ikke blev genereret tokens. Hvis modellen afviser en anmodning på grund af indhold eller format, betaler du ingenting. Dette er en vigtig fordel ved forudbetalt fakturering.

Retries er ikke gratis. Hvis du sender en anmodning og får en fejl, skal du måske retrye. Hver retry forbruger tokens. Fejl er gratis, men retries er ikke det.

Vores API opkræver kun for rigtige tokens. Hvis en forespørgsel fejler, før token-generering starter, betaler du intet. Hvis den fejler efter, betaler du for det, der blev genereret. Denne gennemsigtighed forhindrer skjulte gebyrer.

Copycurl https://api.claudeapiproxy.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "get the current server time in ISO format"}]
  }'

• Afvisninger koster nul credits.
• Retries forbruger dit budget.
• Fejl er gratis, hvis der ikke genereres tokens.
• Overvåg gentagelser for at optimere effektiviteten.

JSON-tilstand formateringsomkostninger

JSON-tilstand formateringsomkostninger er identiske med standard teksttilstand. Du betaler for tokens i JSON-outputtet. Formatet tilføjer ikke ekstra gebyrer.

Dog kræver JSON-output ofte flere tokens end almindelig tekst. Modeller kan tilføje ekstra mellemrum eller nøgler for at sikre gyldig JSON. Dette øger din outputomkostning.

Vores API understøtter JSON-tilstand via response_format. Du kan tvinge strengt JSON-output. Dette sikrer kompatibilitet med din klientkode. Omkostningen er per token, ikke per format.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.claudeapiproxy.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Optimer dit JSON-schema for at reducere tokenantallet. Fjern unødvendige nøgler. Brug kortere variabelnavne. Dette hjælper med at minimere omkostninger, mens dataintegriteten opretholdes.

Sammenligner proxy-omkostninger med direkte vendor-priser

Proxy-omkostninger er ofte lavere end direkte udbydertakster, fordi du kun betaler for tokens. Direkte udbydere kan opkræve for driftstid, support eller modelversionering. Vores API opkræver $0.15 per 1M input tokens og $0.50 per 1M output tokens.

Direkte leverandører som Anthropic eller OpenAI har komplekse prisniveauer. De kan opkræve forskellige satser for forskellige modeller. Vores API tilbyder én enkelt ubegrænset model. Dette forenkler faktureringen.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.claudeapiproxy.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

• Proxy-fakturering er gennemsigtig og forudbetalt.
• Direkte leverandører kan have skjulte gebyrer.
• Vores model er ufiltreret og open-weight.
• Sammenlign tokenantal, ikke kun priser.

Beregning af din effektive omkostning pr. samtale

Effektiv pris pr. samtale afhænger af tokenforbrug. Beregn det samlede antal tokens sendt og modtaget. Gang med prisen per million tokens. Dette giver dig den nøjagtige pris.

For eksempel, hvis en samtale bruger 10.000 input-tokens og 5.000 output-tokens, er omkostningen $0,0015 + $0,0025 = $0,004. Dette er ubetydeligt for de fleste anvendelser.

Copycurl https://api.claudeapiproxy.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "get the current server time in ISO format"}]
  }'

Spor din gennemsnitlige samtalelængde. Optimer prompts for at reducere input-tokens. Dette hjælper dig med at forudsige omkostninger nøjagtigt. Forudbetalt kredit udløber aldrig, så du kan planlægge på lang sigt.

Undgå dobbeltopkrævningsfejl med forudbetalt kredit

Dobbeltopkrævninger er sjældne, men mulige. Hvis du topped op via krypto, skal du sikre, at du sender det korrekte beløb. Vores API opkræver kun for reel token-brug. Fejl rettes via Support-siden.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.claudeapiproxy.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

• Verificér transaktionshænder før top-up.
• Tjek din saldo efter hvert anrop.
• Rapporter fejl straks for refusion.
• Gem registre over dine transaktioner.