Entendendo contagem de tokens em modelos uncensored
A primeira frase de cada seção responde à pergunta no seu título. A contagem de tokens é a unidade fundamental de cobrança para qualquer proxy LLM. Você paga por cada token enviado no prompt e por cada token gerado na resposta. Isso inclui instruções do sistema, histórico de conversas e caracteres de formatação.
Muitos desenvvedores assumem que apenas o texto visível conta. Isso está incorreto. Cada espaço, nova linha e colchete JSON consome tokens. Quando você usa um modelo sem censura, a janela de contexto enche mais rápido porque esses modelos geralmente exigem raciocínio mais verboso para manter a coerência sem filtros de segurança.
Nossa API cobra $0,15 por 1M de tokens de entrada e $0,50 por 1M de tokens de saída. Essa taxa se aplica ao uso real de tokens. Erros não cobram de você. Recusas são gratuitas. Essa estrutura garante que você pague apenas pelo processamento real.
curl https://api.claudeapiproxy.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "get the current server time in ISO format"}]
}'- Conte cada caractere no seu prompt do sistema.
- Inclua o histórico de conversas na contagem de tokens de entrada.
- Conta para sobrecarga de formatação JSON.
- Verifique a contagem de tokens antes de enviar payloads grandes.
A armadilha da janela de contexto: 100k de entrada vs 16k de saída
Nossa API oferece uma janela de contexto de 100.000 tokens, mas você só pode gerar 16.000 tokens por solicitação. Essa assimetria cria uma armadilha de cobrança para usuários que assumem uma saída infinita.
Se o seu prompt consumir 90.000 tokens, restam apenas 10.000 tokens para saída. Se você solicitar um máximo de 16.000 tokens, o modelo parará antecipadamente. Você ainda paga pelos tokens realmente gerados. Isso não é um bug. É uma característica das janelas de contexto grandes.
Muitos usuários desperdiçam crédito definindo max_tokens muito alto. Se o modelo ficar sem contexto, ele para naturalmente. Você paga pelo que ele produz. Você não paga pelo que ele não pôde produzir.
from openai import OpenAI
client = OpenAI(base_url="https://api.claudeapiproxy.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Monitore sempre seu contexto restante. Use o endpoint /v1/models para verificar os limites atuais. Ajuste o comprimento do seu prompt para deixar espaço para a saída. Isso evita cobranças inesperadas de respostas truncadas.
Respostas em streaming e faturamento no último fragmento
O streaming não altera o custo total. Você paga pelos mesmos tokens, seja recebendo-os instantaneamente ou de uma só vez. A diferença está na forma como você acompanha o uso.
Ao transmitir (stream), você recebe vários blocos. Cada bloco contém uma parte da resposta. O bloco final contém o resumo do uso de tokens. É aqui que você verifica a contagem exata de tokens.
Alguns proxies cobram por bloco. O nosso não. Cobramos pelos tokens totais gerados. O modo de streaming é para experiência do usuário, não para eficiência de cobrança.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)- Transmita para atualizações de UI em tempo real.
- Ignorar chunks intermediários para faturamento.
- Leia o último bloco para contagens de tokens.
- Verifique se o uso corresponde às suas expectativas.
Sobrecarga de chamada de função no uso de ferramentas
A chamada de função adiciona uma sobrecarga significativa porque as definições de ferramentas são repetidas em cada solicitação. Cada vez que você chama uma função, o modelo deve reler o esquema da ferramenta.
Se você tiver cinco ferramentas, cada uma com 1.000 tokens de definições, você adiciona 5.000 tokens a cada solicitação. Isso aumenta significativamente seu custo de entrada. Para conversas longas, essa sobrecarga se acumula.
Nossa API suporta chamada de funções com tools e tool_choice. Você pode otimizar reduzindo a complexidade das ferramentas. Combine ferramentas relacionadas em esquemas únicos. Isso reduz a contagem de tokens por solicitação.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.claudeapiproxy.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Monitore o uso de tokens com cuidado. Altos volumes de chamadas de função podem dobrar seus custos de entrada. Use cache para definições de ferramentas, se possível. Isso ajuda a manter seu crédito pré-pago por mais tempo.
Por que recusas são gratuitas, mas retentativas não são
As recusas são gratuitas porque nenhum token foi gerado. Se o modelo recusar uma solicitação devido ao conteúdo ou formato, você não paga nada. Este é um benefício chave do modelo de cobrança pré-paga.
Retries não são gratuitos. Se você enviar uma solicitação e receber um erro, poderá precisar fazer um retry. Cada retry consome tokens. Erros são gratuitos, mas retries não são.
Nossa API cobra apenas pelos tokens reais. Se uma solicitação falhar antes da geração de tokens, você não paga nada. Se falhar depois, você paga pelo que foi gerado. Essa transparência evita taxas ocultas.
curl https://api.claudeapiproxy.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "get the current server time in ISO format"}]
}'- As recusas custam zero créditos.
- Retries consomem seu orçamento.
- Erros são gratuitos se nenhum token for gerado.
- Monitore as tentativas para otimizar a eficiência.
Custo de formatação do modo JSON
Os custos de formatação do modo JSON são idênticos aos do modo de texto padrão. Você paga pelos tokens na saída JSON. O formato não adiciona cobranças extras.
No entanto, a saída JSON frequentemente requer mais tokens do que texto simples. Os modelos podem adicionar espaços em branco ou chaves extras para garantir um JSON válido. Isso aumenta o custo da sua saída.
Nossa API suporta o modo JSON via response_format. Você pode forçar uma saída JSON estrita. Isso garante compatibilidade com o código do seu cliente. O custo é por token, não por formato.
from openai import OpenAI
client = OpenAI(base_url="https://api.claudeapiproxy.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Otimize seu esquema JSON para reduzir a contagem de tokens. Remova chaves desnecessárias. Use nomes de variáveis mais curtos. Isso ajuda a minimizar os custos enquanto mantém a integridade dos dados.
Comparando custos de proxy com preços diretos do fornecedor
Os custos do proxy são frequentemente menores que os preços diretos do fornecedor porque você paga apenas pelos tokens. Fornecedores diretos podem cobrar por tempo de atividade, suporte ou versionamento de modelo. Nossa API cobra $0.15 por 1M de tokens de entrada e $0.50 por 1M de tokens de saída.
Fornecedores diretos como Anthropic ou OpenAI têm camadas de preços complexas. Eles podem cobrar taxas diferentes para modelos diferentes. Nossa API oferece um único modelo sem censura. Isso simplifica a cobrança.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.claudeapiproxy.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);- A cobrança do proxy é transparente e pré-paga.
- Fornecedores diretos podem ter taxas ocultas.
- Nosso modelo é sem censura e de peso aberto.
- Compare as contagens de tokens, não apenas os preços.
Calculando seu custo efetivo por conversa
O custo efetivo por conversa depende do uso de tokens. Calcule o total de tokens enviados e recebidos. Multiplique pela taxa por milhão de tokens. Isso fornece o custo exato.
Por exemplo, se uma conversa usa 10.000 tokens de entrada e 5.000 tokens de saída, o custo é $0.0015 + $0.0025 = $0.004. Isso é insignificante para a maioria dos usos.
curl https://api.claudeapiproxy.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "get the current server time in ISO format"}]
}'Acompanhe o comprimento médio da sua conversa. Otimize prompts para reduzir tokens de entrada. Isso ajuda você a prever custos com precisão. Crédito pré-pago nunca expira, então você pode planejar a longo prazo.
Evitando erros de dupla cobrança com crédito pré-pago
Cobranças duplicadas são raras, mas possíveis. Se você fizer um depósito via criptomoeda, certifique-se de enviar o valor correto. Nossa API cobra apenas pelo uso real de tokens. Erros são corrigidos pela página de Suporte.
from openai import OpenAI
client = OpenAI(base_url="https://api.claudeapiproxy.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)- Verifique os hashes das transações antes de recarregar.
- Verifique seu saldo após cada solicitação.
- Relate erros imediatamente para reembolsos.
- Mantenha registros de suas transações.
