Цена Claude: исправление распространенных ошибок с прокси-биллингом

Понимание подсчета токенов в uncensored моделях

Первое предложение каждого раздела отвечает на вопрос, заданный в заголовке. Подсчёт токенов — это фундаментальная единица биллинга для любого LLM-прокси. Вы платите за каждый токен, отправленный в промпте, и за каждый токен, сгенерированный в ответе. Это включает системные инструкции, историю разговора и символы форматирования.

Многие разработчики считают, что учитывается только видимый текст. Это неверно. Каждый пробел, новая строка и скобка JSON потребляют токены. При использовании uncensored-модели контекстное окно заполняется быстрее, так как таким моделям часто требуется более подробное рассуждение для поддержания связности без фильтров безопасности.

Наш API взимает $0.15 за 1M входных токенов и $0.50 за 1M выходных токенов. Эта ставка применяется к реальному использованию токенов. Ошибки не списывают средства. Отказы бесплатны. Такая структура гарантирует, что вы платите только за фактические вычисления.

Copycurl https://api.claudeapiproxy.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "get the current server time in ISO format"}]
  }'

• Подсчитайте каждый символ в системном промпте.
• Включите историю разговора в подсчет входных токенов.
• Учет накладных расходов на форматирование JSON.
• Проверьте количество токенов перед отправкой больших полез нагрузок.

Ловушка окна контекста: 100k входных против 16k выходных токенов

Наш API предоставляет контекстное окно на 100 000 токенов, но вы можете генерировать только 16 000 токенов за один запрос. Эта асимметрия создает ловушку биллинга для пользователей, которые предполагают бесконечный вывод.

Если ваш промпт занимает 90 000 токенов, у вас остается только 10 000 токенов для вывода. Если вы запросите максимум 16 000 токенов, модель остановится раньше. Вы платите только за фактически сгенерированные токены. Это не ошибка, а особенность больших контекстных окон.

Многие пользователи тратят кредит впустую, устанавливая слишком высокое значение max_tokens. Если модели не хватает контекста, она останавливается естественным образом. Вы платите за то, что она производит. Вы не платите за то, что она не смогла произвести.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.claudeapiproxy.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Всегда мониторьте оставшийся контекст. Используйте конечную точку /v1/models для проверки текущих лимитов. Регулируйте длину запроса, оставляя место для вывода. Это предотвращает непредвиденные расходы из-за усеченных ответов.

Потоковая передача ответов и оплата за последний фрагмент

Потоковая передача не изменяет общую стоимость. Вы платите за те же токены, независимо от того, получаете ли вы их мгновенно или все сразу. Разница заключается в способе отслеживания использования.

При потоковой передаче вы получаете несколько фрагментов. Каждый фрагмент содержит часть ответа. Последний фрагмент содержит сводку по использованию токенов. Здесь вы можете проверить точное количество токенов.

Некоторые прокси берут плату за каждый фрагмент. Наши — нет. Мы берем плату за общее количество сгенерированных токенов. Режим потоковой передачи предназначен для пользовательского опыта, а не для эффективности биллинга.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

• Потоковая передача для обновлений пользовательского интерфейса в реальном времени.
• Игнорировать промежуточные чанки для биллинга.
• Прочитайте последний фрагмент для подсчета токенов.
• Проверьте, соответствует ли использование вашим ожиданиям.

Накладные расходы при использовании инструментов

Использование инструментов добавляет значительные накладные расходы, потому что определения инструментов повторяются в каждом запросе. Каждый раз, когда вы вызываете функцию, модель должна заново читать схему инструмента.

Если у вас есть пять инструментов, каждый с определениями объемом 1 000 токенов, вы добавляете 5 000 токенов к каждому запросу. Это значительно увеличивает стоимость ввода. Для длинных разговоров эти накладные расходы накапливаются.

Наш API поддерживает вызов функций с tools и tool_choice. Вы можете оптимизировать процесс, снижая сложность инструментов. Объединяйте связанные инструменты в единые схемы. Это уменьшает количество токенов на запрос.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.claudeapiproxy.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Тщательно отслеживайте использование токенов. Высокая частота вызовов функций может удвоить ваши входные расходы. Используйте кэширование для определений инструментов, если это возможно. Это помогает продлить срок службы вашего предоплаченного кредита.

Почему отказы бесплатны, а повторные попытки — нет

Отказы бесплатны, потому что токены не были сгенерированы. Если модель отклоняет запрос из-за контента или формата, вы ничего не платите. Это ключевое преимущество предоплачной модели биллинга.

Повторные запросы не бесплатны. Если вы отправляете запрос и получаете ошибку, возможно, потребуется повторить его. Каждый повторный запрос потребляет токены. Ошибки бесплатны, но повторные запросы — нет.

Наш API взимает плату только за реальные токены. Если запрос завершается ошибкой до генерации токенов, вы ничего не платите. Если ошибка возникает после, вы платите только за сгенерированные токены. Эта прозрачность предотвращает скрытые комиссии.

Copycurl https://api.claudeapiproxy.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "get the current server time in ISO format"}]
  }'

• Отказы стоят ноль кредитов.
• Повторные запросы расходуют ваш бюджет.
• Ошибки бесплатны, если токены не сгенерированы.
• Отслеживайте повторные попытки для оптимизации эффективности.

Стоимость форматирования в режиме JSON

Стоимость форматирования в режиме JSON идентична стоимости обычного текстового режима. Вы платите за токены в выводе JSON. Формат не добавляет дополнительных расходов.

Однако вывод в формате JSON часто требует больше токенов, чем обычный текст. Модели могут добавлять дополнительный пробел или ключи, чтобы обеспечить валидность JSON. Это увеличивает стоимость вашего вывода.

Наш API поддерживает режим JSON через response_format. Вы можете обеспечить строгий вывод в формате JSON. Это гарантирует совместимость с вашим клиентским кодом. Стоимость рассчитывается за токен, а не за формат.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.claudeapiproxy.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Оптимизируйте вашу JSON-схему, чтобы сократить количество токенов. Удалите ненужные ключи. Используйте более короткие имена переменных. Это помогает минимизировать расходы, сохраняя целостность данных.

Сравнение стоимости прокси с прявыми ценами вендоров

Стоимость Proxy часто ниже, чем у прямых поставщиков, потому что вы платите только за токены. Прямые поставщики могут взимать плату за время работы, поддержку или версионирование моделей. Наш API берет $0.15 за 1M входных токенов и $0.50 за 1M выходных токенов.

Прямые вендоры, такие как Anthropic или OpenAI, имеют сложные тарифные сетки. Они могут взимать разные ставки за разные модели. Наш API предлагает единую uncensored-модель. Это упрощает биллинг.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.claudeapiproxy.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

• Биллинг Proxy прозрачен и предоплачен.
• Прямые вендоры могут иметь скрытые комиссии.
• Наша модель не имеет цензуры и имеет открытый вес.
• Сравнивайте количество токенов, а не только цены.

Расчет вашей эффективной стоимости разговора

Эффективная стоимость одного диалога зависит от использования токенов. Подсчитайте общее количество отправленных и полученных токенов. Умножьте на тариф за миллион токенов. Это даст вам точную стоимость.

Например, если диалог использует 10,000 входных токенов и 5,000 выходных токенов, стоимость составляет $0.0015 + $0.0025 = $0.004. Это ничтожно мало для большинства задач.

Copycurl https://api.claudeapiproxy.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "get the current server time in ISO format"}]
  }'

Отслеживайте среднюю длину разговора. Оптимизируйте промпты, чтобы уменьшить количество входных токенов. Это помогает точно прогнозировать расходы. Предоплаченный кредит не истекает, поэтому вы можете планировать долгосрочные расходы.

Избегание ошибок двойного списания с предоплаченным кредитом

Двойные списания редки, но возможны. Если вы пополняете баланс через криптовалюту, убедитесь, что отправляете правильную сумму. Наш API взимает плату только за реальное использование токенов. Ошибки исправляются через страницу Support.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.claudeapiproxy.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

• Проверьте хеши транзакций перед пополнением.
• Проверяйте баланс после каждого запроса.
• Немедленно сообщайте об ошибках для получения возмещения.
• Ведите записи о своих транзакциях.