การนับโทเค็นในโมเดล uncensored
ประโยคแรกของแต่ละส่วนตอบคำถามในหัวข้อของมัน การนับ token เป็นหน่วยพื้นฐานของการเรียกเก็บเงินสำหรับ proxy LLM ใดๆ คุณจ่ายสำหรับทุก token ที่ส่งใน prompt และทุก token ที่สร้างในการตอบสนอง ซึ่งรวมถึงคำแนะนำของระบบ ประวัติการสนทนา และอักขระการจัดรูปแบบ
นักพัฒนาจำนวนมากมักคิดว่าเฉพาะข้อความที่ปรากฏเท่านั้นที่สำคัญ ซึ่งไม่ถูกต้อง ทุกช่องว่าง บรรทัดใหม่ และวงเล็บ JSON ล้วนใช้โทเค็น เมื่อคุณใช้โมเดล uncensored หน้าต่างบริบทจะเต็มเร็วขึ้นเนื่องจากโมเดลเหล่านี้มักต้องการการให้เหตุผลที่ละเอียดกว่าเพื่อรักษาความสอดคล้องกันโดยไม่มีการกรองความปลอดภัย
API ของเราคิดเงิน $0.15 ต่อ 1M input tokens และ $0.50 ต่อ 1M output tokens อัตรานี้ใช้กับการใช้งาน token จริงๆ การเกิดข้อผิดพลาดจะไม่คิดเงินคุณ การปฏิเสธ (refusals) ฟรี โครงสร้างนี้ทำให้คุณจ่ายเฉพาะการประมวลผลจริงเท่านั้น
curl https://api.claudeapiproxy.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "get the current server time in ISO format"}]
}'- นับทุกอักขระในคำสั่งระบบของคุณ
- รวมประวัติการสนทนาในจำนวน token ของคุณ
- บัญชีสำหรับส่วนเกินของการจัดรูปแบบ JSON
- ตรวจสอบจำนวนโทเค็นก่อนส่งแพย์โหลดขนาดใหญ่
กับดักหน้าต่างบริบท: อินพุต 100k เทียบกับเอาต์พุต 16k
API ของเราให้หน้าต่างบริบทขนาด 100,000 โทเค็น แต่คุณสามารถสร้างผลลัพธ์ได้เพียง 16,000 โทเค็นต่อคำขอ ความไม่สมมาตรนี้สร้างกับดักการชำระเงินสำหรับผู้ใช้ที่สมมติว่าผลลัพธ์ไม่มีที่สิ้นสุด
หาก prompt ของคุณใช้ 90,000 tokens คุณจะเหลือ tokens สำหรับ output เพียง 10,000 tokens หากคุณกำหนดค่าสูงสุดที่ 16,000 tokens โมเดลจะหยุดทำงานก่อนหน้า คุณยังคงต้องจ่ายสำหรับ tokens ที่สร้างจริง นี่ไม่ใช่ข้อผิดพลาด แต่เป็นฟีเจอร์ของหน้าต่างบริบทขนาดใหญ่
ผู้ใช้จำนวนมากสิ้นเปลืองเครดิตโดยการตั้งค่า max_tokens สูงเกินไป หากโมเดลหมดบริบท มันจะหยุดตามธรรมชาติ คุณจ่ายสำหรับสิ่งที่มันผลิต คุณไม่จ่ายสำหรับสิ่งที่มันไม่สามารถผลิตได้
from openai import OpenAI
client = OpenAI(base_url="https://api.claudeapiproxy.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)ควรตรวจสอบบริบทที่เหลือของคุณเสมอ ใช้ endpoint /v1/models เพื่อยืนยันขีดจำกัดปัจจุบัน ปรับความยาวของ prompt ให้เหลือพื้นที่สำหรับผลลัพธ์ เพื่อป้องกันค่าใช้จ่ายที่ไม่คาดคิดจากการที่คำตอบถูกตัดทอน
การตอบกลับแบบสตรีมและการเรียกเก็บเงินชิ้นส่วนสุดท้าย
การสตรีมไม่เปลี่ยนต้นทุนรวม คุณจ่ายสำหรับโทเค็นจำนวนเดียวกันไม่ว่าคุณจะรับข้อมูลแบบทันทีหรือพร้อมกัน ความแตกต่างอยู่ที่วิธีการติดตามการใช้งาน
เมื่อคุณสตรีม คุณจะได้รับหลายชิ้นส่วน แต่ละชิ้นส่วนมีข้อมูลบางส่วนของการตอบสนอง ชิ้นส่วนสุดท้ายมีสรุปการใช้งาน token นี่คือจุดที่คุณตรวจสอบจำนวน token ที่แน่นอน
พร็อกซีบางรายคิดค่าใช้บริการต่อชิ้น แต่ของเราไม่ เราคิดค่าใช้บริการตามจำนวนโทเค็นทั้งหมดที่สร้าง โหมดสตรีมมิ่งมีไว้เพื่อประสบการณ์ผู้ใช้ ไม่ใช่เพื่อประสิทธิภาพการเรียกเก็บเงิน
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)- สตรีมสำหรับการอัปเดต UI แบบเรียลไทม์
- ละเว้นการตัดทอนกลางสำหรับการเรียกเก็บเงิน
- อ่านส่วนสุดท้ายเพื่อรับจำนวนโทเค็น
- ตรวจสอบการใช้งานตรงกับที่คุณคาดหวัง
ส่วนเกินของ Function Calling ในการใช้เครื่องมือ
Function calling เพิ่ม Overhead อย่างมีนัยสำคัญเพราะนิยามเครื่องมือจะถูกทำซ้ำในทุกคำขอ ทุกครั้งที่คุณเรียกใช้ฟังก์ชัน โมเดลต้องอ่านสคีมาเครื่องมืออีกครั้ง
หากคุณมีเครื่องมือห้าตัว แต่ละตัวมีคำจำกัดความขนาด 1,000 token คุณจะเพิ่ม 5,000 token เข้าไปในทุกคำขอ ซึ่งทำให้ต้นทุนอินพุตเพิ่มขึ้นอย่างมีนัยสำคัญ สำหรับการสนทนาที่ยาวนาน ค่าใช้จ่ายส่วนเกินนี้จะสะสมเพิ่มขึ้น
API ของเรารองรับการเรียกใช้ฟังก์ชันพร้อม tools และ tool_choice คุณสามารถปรับปรุงประสิทธิภาพโดยลดความซับซ้อนของเครื่องมือ รวมเครื่องมือที่เกี่ยวข้องเข้าไว้ในสคีมาเดียว สิ่งนี้ลดจำนวน tokens ต่อคำขอ
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.claudeapiproxy.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);ตรวจสอบการใช้งานโทเค็นของคุณอย่างใกล้ชิด ปริมาณการเรียกใช้ฟังก์ชันที่สูงสามารถเพิ่มต้นทุนอินพุตของคุณเป็นสองเท่า ใช้การแคชสำหรับคำจำกัดความของเครื่องมือหากเป็นไปได้ สิ่งนี้ช่วยให้เครดิตพรีเพย์ของคุณอยู่ได้นานขึ้น
ทำไมการปฏิเสธถึงฟรีแต่การลองใหม่ไม่ฟรี
การปฏิเสธนั้นฟรีเพราะไม่มีโทเค็นใด ๆ ถูกสร้างขึ้นมา หากโมเดลปฏิเสธคำขอเนื่องจากเนื้อหาหรือรูปแบบ คุณไม่ต้องจ่ายค่าใด ๆ ซึ่งเป็นประโยชน์หลักของการเรียกเก็บเงินแบบพรีเพย์
การเรียกซ้ำไม่ใช่เรื่องฟรี หากคุณส่งคำขอแล้วเกิดข้อผิดพลาด คุณอาจต้องเรียกซ้ำใหม่ การเรียกซ้ำแต่ละครั้งจะบริโภคโทเค็น ข้อผิดพลาดนั้นฟรี แต่การเรียกซ้ำนั้นไม่ฟรี
API ของเราคิดค่าใช้เฉพาะสำหรับการใช้งานโทเค็นจริง หากคำขอล้มเหลวก่อนการสร้างโทเค็น คุณไม่ต้องจ่ายอะไรเลย หากล้มเหลวหลังจากนั้น คุณจ่ายเฉพาะสิ่งที่สร้างเสร็จ ความโปร่งใสนี้ป้องกันค่าธรรมเนียมที่ซ่อนอยู่
curl https://api.claudeapiproxy.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "get the current server time in ISO format"}]
}'- การปฏิเสธไม่เสียเครดิต
- การเรียกซ้ำใช้งบประมาณของคุณ
- ข้อผิดพลาดฟรีหากไม่มีการสร้างโทเค็น
- ติดตามการ retry เพื่อเพิ่มประสิทธิภาพ
ต้นทุนการจัดรูปแบบโหมด JSON
ต้นทุนการจัดรูปแบบโหมด JSON เท่ากับโหมดข้อความมาตรฐาน คุณจ่ายตามจำนวนโทเค็นในผลลัพธ์ JSON รูปแบบไม่มีการเรียกเก็บค่าเพิ่ม
อย่างไรก็ตาม การส่งออกข้อมูลรูปแบบ JSON มักต้องการโทเค็นมากกว่าข้อความธรรมดา โมเดลอาจเพิ่มช่องว่างหรือคีย์เพิ่มเติมเพื่อให้แน่ใจว่า JSON ถูกต้อง ซึ่งเพิ่มต้นทุนผลลัพธ์ของคุณ
API ของเรารองรับโหมด JSON ผ่าน response_format คุณสามารถบังคับใช้ผลลัพธ์ JSON ที่เข้มงวด ซึ่งช่วยให้เข้ากันได้กับโค้ดไคลเอนต์ของคุณ ค่าใช้จ่ายคิดต่อโทเค็น ไม่ใช่ต่อรูปแบบ
from openai import OpenAI
client = OpenAI(base_url="https://api.claudeapiproxy.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)ปรับโครงสร้าง JSON ของคุณเพื่อลดจำนวนโทเค็น ลบคีย์ที่ไม่จำเป็น ใช้ชื่อตัวแปรที่สั้นลง เพื่อช่วยประหยัดต้นทุนขณะรักษาความสมบูรณ์ของข้อมูล
กำลังเปรียบเทียบต้นทุน proxy กับราคาผู้ขายโดยตรง
Proxy costs are often lower than direct vendor pricing because you pay only for tokens. Direct vendors may charge for uptime, support, or model versioning. Our API charges $0.15 per 1M input tokens and $0.50 per 1M output tokens.
ผู้ขายเช่น Anthropic หรือ OpenAI มีระดับราคาที่ซับซ้อน พวกเขาอาจคิดอัตราค่า的不同สำหรับโมเดลที่แตกต่างกัน API ของเราเสนอโมเดลไร้เซนเซอร์เพียงโมเดลเดียว ซึ่งทำให้การเรียกเก็บเงินง่ายขึ้น
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.claudeapiproxy.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);- การเรียกเก็บเงิน Proxy โปร่งใสและชำระล่วงหน้า
- ผู้ขายโดยตรงอาจมีค่าธรรมเนียมที่ซ่อนอยู่
- โมเดลของเราไร้การเซ็นเซอร์และเป็นโอเพนเวต
- เปรียบเทียบจำนวนโทเคน ไม่ใช่แค่ราคา
การคำนวณต้นทุนที่มีประสิทธิภาพต่อการสนทนา
ต้นทุนที่มีประสิทธิภาพต่อการสนทนาขึ้นอยู่กับปริมาณ tokens คำนวณจำนวน tokens ทั้งหมดที่ส่งและรับ คูณด้วยอัตราต่อล้าน tokens สิ่งนี้ให้คุณทราบค่าใช้จ่ายที่แท้จริง
ตัวอย่างเช่น หากบทสนทนาใช้ input 10,000 token และ output 5,000 token ค่าใช้จ่ายคือ $0.0015 + $0.0025 = $0.004 ซึ่งถือว่าเล็กน้อยสำหรับการใช้งานส่วนใหญ่
curl https://api.claudeapiproxy.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "get the current server time in ISO format"}]
}'ติดตามความยาวเฉลี่ยของการสนทนา ปรับแต่ง prompt เพื่อลด input tokens ซึ่งช่วยให้คุณคาดการณ์ต้นทุนได้อย่างแม่นยำ เครดิตเติมล่วงหน้าไม่หมดอายุ ดังนั้นคุณสามารถวางแผนระยะยาวได้
หลีกเลี่ยงข้อผิดพลาดการเรียกเก็บเงินซ้ำกับเครดิตแบบเติมเงิน
การเรียกเก็บเงินซ้ำพบได้ยากแต่เป็นไปได้ หากคุณเติมเงินผ่านคริปโต โปรดตรวจสอบให้แน่ใจว่าคุณส่งจำนวนที่ถูกต้อง API ของเราเรียกเก็บเฉพาะการใช้ token จริงๆ ข้อผิดพลาดสามารถแก้ไขได้ผ่านหน้า Support
from openai import OpenAI
client = OpenAI(base_url="https://api.claudeapiproxy.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)- ตรวจสอบ hash ของธุรกรรมก่อนเติมเงิน
- ตรวจสอบยอดคงเหลือของคุณหลังจากแต่ละคำขอ
- รายงานข้อผิดพลาดทันทีเพื่อรับเงินคืน
- เก็บบันทึกการทำธุรกรรมของคุณ
