Comprender el conteo de tokens en modelos sin censura
La primera frase de cada sección responde a la pregunta en su encabezado. El conteo de tokens es la unidad fundamental de facturación para cualquier proxy de LLM. Pagas por cada token enviado en el prompt y por cada token generado en la respuesta. Esto incluye las instrucciones del sistema, el historial de la conversación y los caracteres de formato.
Muchos desarrolladores asumen que solo cuenta el texto visible. Esto es incorrecto. Cada espacio, salto de línea y corchete JSON consume tokens. Cuando usas un modelo sin censura, la ventana de contexto se llena más rápido porque estos modelos a menudo requieren un razonamiento más extenso para mantener la coherencia sin filtros de seguridad.
Nuestra API cobra $0.15 por cada 1M de tokens de entrada y $0.50 por cada 1M de tokens de salida. Esta tarifa se aplica al uso real de tokens. Los errores no te cobran. Los rechazos son gratuitos. Esta estructura garantiza que solo pagues por el cómputo real.
curl https://api.claudeapiproxy.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "get the current server time in ISO format"}]
}'- Cuenta cada carácter en tu prompt del sistema.
- Incluye el historial de conversación en tu conteo de tokens.
- Cuenta para la sobrecarga de formato JSON.
- Verifica el recuento de tokens antes de enviar cargas útiles grandes.
La trampa de la ventana de contexto: 100k de entrada vs 16k de salida
Nuestra API proporciona una ventana de contexto de 100.000 tokens, pero solo puedes generar 16.000 tokens por solicitud. Esta asimetría crea una trampa de facturación para usuarios que asumen una salida infinita.
Si tu prompt consume 90.000 tokens, solo tienes 10.000 tokens restantes para la salida. Si solicitas un máximo de 16.000 tokens, el modelo se detendrá antes. Sigues pagando por los tokens realmente generados. Esto no es un error. Es una característica de las ventanas de contexto grandes.
Muchos usuarios desperdician crédito configurando max_tokens demasiado alto. Si el modelo se queda sin contexto, se detiene naturalmente. Pagas por lo que produce. No pagas por lo que no pudo producir.
from openai import OpenAI
client = OpenAI(base_url="https://api.claudeapiproxy.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Monitorea siempre tu contexto restante. Utiliza el extremo /v1/models para verificar los límites actuales. Ajusta la longitud de tu prompt para dejar espacio para la salida. Esto evita cargos inesperados por respuestas truncadas.
Respuestas en streaming y facturación del último fragmento
El streaming no modifica el coste total. Pagas por los mismos tokens, ya sea que los recibas al instante o todos a la vez. La diferencia está en cómo rastreas el uso.
Cuando transmites, recibes múltiples fragmentos. Cada fragmento contiene una parte de la respuesta. El fragmento final contiene el resumen del uso de tokens. Aquí es donde verificas el recuento exacto de tokens.
Algunos proxies cobran por fragmento. El nuestro no. Cobramos por el total de tokens generados. El modo de streaming es para la experiencia de usuario, no para la eficiencia de facturación.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)- Transmite para actualizaciones de interfaz de usuario en tiempo real.
- Ignorar fragmentos intermedios para la facturación.
- Lee el último fragmento para obtener los recuentos de tokens.
- Verifica que el uso coincida con tus expectativas.
Sobrecarga de llamada de funciones en el uso de herramientas
La llamada de función añade una sobrecarga significativa porque las definiciones de herramienta se repiten en cada solicitud. Cada vez que llamas a una función, el modelo debe releer el esquema de la herramienta.
Si tienes cinco herramientas, cada una con 1.000 tokens de definiciones, añades 5.000 tokens a cada solicitud. Esto aumenta significativamente tu coste de entrada. Para conversaciones largas, esta sobrecarga se acumula.
Nuestra API admite llamada a funciones con tools y tool_choice. Puedes optimizar reduciendo la complejidad de las herramientas. Combina herramientas relacionadas en esquemas únicos. Esto reduce el recuento de tokens por solicitud.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.claudeapiproxy.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Monitorea el uso de tokens con cuidado. Un alto volumen de llamadas a funciones puede duplicar tus costos de entrada. Usa caché para las definiciones de herramientas si es posible. Esto ayuda a que tu crédito prepagado dure más.
Por qué los rechazos son gratuitos pero los reintentos no
Las negativas son gratuitas porque no se generaron tokens. Si el modelo rechaza una solicitud debido al contenido o formato, no pagas nada. Este es un beneficio clave de la facturación prepagada.
Los reintentos no son gratuitos. Si envías una solicitud y obtienes un error, es posible que necesites reintentarla. Cada reintento consume tokens. Los errores son gratuitos, pero los reintentos no lo son.
Nuestra API cobra solo por el uso real de tokens. Si una solicitud falla antes de la generación de tokens, no pagas nada. Si falla después, pagas por lo que se generó. Esta transparencia evita tarifas ocultas.
curl https://api.claudeapiproxy.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "get the current server time in ISO format"}]
}'- Las negativas cuestan cero créditos.
- Los reintentos consumen tu presupuesto.
- Los errores son gratuitos si no se generan tokens.
- Monitora los reintentos para optimizar la eficiencia.
Costes de formato del modo JSON
Los costes de formato del modo JSON son idénticos a los del modo de texto estándar. Pagas por los tokens en la salida JSON. El formato no añade cargos adicionales.
Sin embargo, la salida JSON a menudo requiere más tokens que el texto plano. Los modelos pueden agregar espacios en blanco o claves adicionales para garantizar un JSON válido. Esto aumenta el costo de tu salida.
Nuestra API soporta el modo JSON mediante response_format. Puedes forzar una salida JSON estricta. Esto garantiza la compatibilidad con tu código cliente. El costo es por token, no por formato.
from openai import OpenAI
client = OpenAI(base_url="https://api.claudeapiproxy.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Optimiza tu esquema JSON para reducir el recuento de tokens. Elimina claves innecesarias. Usa nombres de variables más cortos. Esto ayuda a minimizar los costos mientras se mantiene la integridad de los datos.
Comparando costes de proxy con la tarificación directa del proveedor
Los costos del proxy suelen ser inferiores a los de los proveedores directos porque solo pagas por los tokens. Los proveedores directos pueden cobrar por tiempo de actividad, soporte o versionado de modelos. Nuestra API cobra $0.15 por 1M de tokens de entrada y $0.50 por 1M de tokens de salida.
Los proveedores directos como Anthropic o OpenAI tienen niveles de precios complejos. Pueden cobrar tarifas diferentes para diferentes modelos. Nuestra API ofrece un único modelo sin censura. Esto simplifica la facturación.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.claudeapiproxy.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);- La facturación del proxy es transparente y prepagada.
- Los proveedores directos pueden tener tarifas ocultas.
- Nuestro modelo es sin censura y de peso abierto.
- Compara los recuentos de tokens, no solo los precios.
Calculando tu costo efectivo por conversación
El coste efectivo por conversación depende del uso de tokens. Calcula el total de tokens enviados y recibidos. Multiplica por la tarifa por millón de tokens. Esto te da el coste exacto.
Por ejemplo, si una conversación utiliza 10,000 tokens de entrada y 5,000 tokens de salida, el costo es $0.0015 + $0.0025 = $0.004. Esto es insignificante para la mayoría de los usos.
curl https://api.claudeapiproxy.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "get the current server time in ISO format"}]
}'Rastrea la longitud promedio de tus conversaciones. Optimiza los prompts para reducir los tokens de entrada. Esto te ayuda a predecir los costes con precisión. El crédito prepagado nunca expira, así que puedes planificar a largo plazo.
Evitando errores de doble cobro con crédito prepagado
Los cargos dobles son raros pero posibles. Si recargas mediante criptomonedas, asegúrate de enviar la cantidad correcta. Nuestra API cobra solo por el uso real de tokens. Los errores se corrigen a través de la página de Soporte.
from openai import OpenAI
client = OpenAI(base_url="https://api.claudeapiproxy.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)- Verifica los hashes de transacción antes de recargar.
- Verifica tu saldo después de cada solicitud.
- Reporte errores inmediatamente para obtener reembolsos.
- Mantén registros de tus transacciones.
