理解 uncensored 模型中的 token 計數
每個章節的第一句話都會回答標題中的問題。Token 計數是任何 LLM 代理服務計費的基本單位。您需為提示中發送的每個 token 以及回應中生成的每個 token 付費。這包括系統指令、對話歷史和格式化字元。
許多開發者認為只有可見的文字才算數。這是錯誤的。每個空格、換行符和 JSON 括號都會消耗 Token。當你使用無審查模型時,上下文視窗會填得更快,因為這些模型通常需要更冗長的推理來維持連貫性,而不依賴安全過濾器。
我們的 API 收費為每 100 萬個輸入 token 0.15 美元,每 100 萬個輸出 token 0.50 美元。此費率適用於實際的 token 用量。錯誤不會收費,拒絕回應則免費。這種結構確保您只需為實際的運算付費。
curl https://api.claudeapiproxy.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "get the current server time in ISO format"}]
}'- 計算系統提示詞中的每個字元。
- 在您的輸入計數中包含對話歷史。
- 用於計算 JSON 格式化開銷的帳戶。
- 在發送大型負載之前,請驗證 token 計數。
上下文視窗陷阱:100k 輸入 vs 16k 輸出
我們的 API 提供 100,000 token 的上下文視窗,但每次請求僅能生成 16,000 token。這種不對稱性會造成計費陷阱,讓假設輸出無限的使用者受影響。
如果您的提示詞消耗 90,000 個 token,您只剩下 10,000 個 token 可用於輸出。如果您請求最多 16,000 個 token,模型將提前停止。您仍須為實際生成的 token 付費。這不是錯誤,而是大上下文視窗的特性。
許多用戶因將 max_tokens 設得太高而浪費信用額度。如果模型耗盡上下文,它會自然停止。您只需為它產生的內容付費。您不需要為它無法產生的內容付費。
from openai import OpenAI
client = OpenAI(base_url="https://api.claudeapiproxy.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)始終監控您的剩餘上下文。使用 /v1/models 端點驗證當前限制。調整提示長度以為輸出保留空間。這可防止截斷回應產生的意外費用。
串流回應與最終區塊計費
串流不會改變總成本。無論您是即時接收還是一次性接收,您為相同的 token 付費。差異在於您追蹤使用量的方式。
當您進行串流傳輸時,會收到多個資料區塊。每個區塊包含回應的一部分。最後一個區塊包含 token 使用量摘要。您可以在這裡驗證確切的 token 計數。
部分代理按數據塊收費。我們的不是。我們按生成的總令牌收費。流式傳輸模式是為用戶體驗,而非計費效率。
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)- 用於即時 UI 更新的串流。
- 忽略中間分塊以進行計費。
- 讀取最後一個區塊以獲取 token 計數。
- 驗證使用量是否符合您的預期。
工具使用中的函式呼叫額外費用
函式呼叫會產生顯著額外開銷,因為工具定義會在每次請求中重複。每次呼叫函式時,模型必須重新閱讀工具結構描述。
若您有五個工具,每個工具的定義佔用 1,000 個 token,您將為每次請求額外增加 5,000 個 token。這會顯著增加輸入成本。對於長對話,這種額外負擔會累積。
我們的 API 支援 function calling 以及 tools 和 tool_choice。您可以透過減少工具複雜度來進行最佳化。將相關工具合併為單一 schema。這減少了每次請求的 token 數量。
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.claudeapiproxy.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);仔細監控您的 Token 使用量。高頻率的函數呼叫可能會使您的輸入成本翻倍。若可能,請對工具定義使用快取。這有助於讓您的預付信用額度更持久。
為什麼拒絕是免費的,但重試並非如此
拒絕是免費的,因為沒有生成 token。如果模型因內容或格式拒絕請求,您無需付費。這是預付帳單模式的主要優勢。
重試並非免費。如果您發送請求並收到錯誤,您可能需要重試。每次重試都會消耗 token。錯誤本身免費,但重試並非免費。
我們的 API 僅按實際 token 使用量收費。如果請求在生成 token 之前失敗,您無需付費;如果之後失敗,您僅為已生成的部分付費。這種透明度可防止隱藏費用。
curl https://api.claudeapiproxy.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "get the current server time in ISO format"}]
}'- 拒絕不消耗信用額度。
- 重試會消耗您的預算。
- 若未生成任何單詞,錯誤免費。
- 監控重試以優化效率。
JSON 模式格式化費用
JSON 模式格式化費用與標準文字模式相同。您只需為 JSON 輸出中的 token 付費。格式本身不會產生額外費用。
不過,JSON 輸出通常比純文本消耗更多 Token。模型可能會添加額外的空白或鍵,以確保 JSON 的有效性。這會增加您的輸出成本。
我們的 API 支援透過 response_format 使用 JSON 模式。您可以強制輸出嚴格的 JSON。這確保與您的客戶端程式碼相容。費用按 token 計算,而非按格式計算。
from openai import OpenAI
client = OpenAI(base_url="https://api.claudeapiproxy.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)最佳化您的 JSON 結構以減少 Token 數量。移除不必要的鍵。使用較短的變數名稱。這有助於在保持資料完整性的同時最小化成本。
比較代理成本與直接供應商定價
Proxy 成本通常低於直接供應商定價,因為您只需為 token 付費。直接供應商可能會為上線時間、支援或模型版本控制收費。我們的 API 每 1M 輸入 token 收費 $0.15,每 1M 輸出 token 收費 $0.50。
直接供應商如 Anthropic 或 OpenAI 擁有複雜的定價等級。它們可能對不同模型收取不同費率。我們的 API 提供單一無審查模型。這簡化了計費。
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.claudeapiproxy.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);- Proxy 計費透明且為預付制。
- 直接供應商可能有隱藏費用。
- 我們的模型無審查且為開放權重。
- 比較 token 數量,而不僅僅是價格。
計算您每次對話的有效成本
每次對話的有效成本取決於 token 使用量。計算總輸入與輸出的 token 數量。乘以每百萬 token 的費率。這將給出精確的成本。
例如,如果對話使用了 10,000 個輸入 token 和 5,000 個輸出 token,成本為 $0.0015 + $0.0025 = $0.004。對於大多數用途來說,這可以忽略不計。
curl https://api.claudeapiproxy.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "get the current server time in ISO format"}]
}'追蹤您的平均對話長度。最佳化提示以減少輸入 token。這有助於您準確預測成本。預付額度永不過期,因此您可以進行長期規劃。
避免預付額度的重複扣款錯誤
重複扣款很少見但有可能發生。如果你透過加密貨幣充值,請確保發送正確的金額。我們的 API 僅根據實際 Token 使用量收費。錯誤可透過支援頁面修正。
from openai import OpenAI
client = OpenAI(base_url="https://api.claudeapiproxy.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)- 充值前請驗證交易雜湊。
- 每次請求後請檢查您的餘額。
- 立即報告錯誤以獲得退款。
- 保留您的交易記錄。