فهم عد الرموز في النماذج غير الخاضعة للرقابة
تجيب الجملة الأولى من كل قسم عن السؤال الوارد في العنوان. يعد عد الرموز الوحدة الأساسية للفوترة لأي وكيل LLM. تدفع مقابل كل رمز يُرسل في الطلب وكل رمز يتم توليده في الاستجابة. ويشمل ذلك تعليمات النظام وسجل المحادثة وأحرف التنسيق.
يفترض العديد من المطورين أن النص المرئي فقط هو المهم. هذا غير صحيح. كل مسافة، وسطر جديد، وقوس JSON يستهلك رموزاً. عند استخدام نموذج غير خاضع للرقابة، يمتلئ نافذة السياق بسرعة أكبر لأن هذه النماذج غالباً ما تتطلب حجماً أكبر من التفكير للحفاظ على الاتساق دون فلاتر الأمان.
تفرض واجهة برمجة التطبيقات (API) لدينا رسومًا بقيمة 0.15 دولار لكل مليون رمز إدخال و0.50 دولار لكل مليون رمز إخراج. ينطبق هذا السعر على استخدام الرموز الفعلي. الأخطاء لا تُحاسبك عليها. الرفض مجاني. يضمن هذا الهيكل أن تدفع فقط مقابل الحوسبة الفعلية.
curl https://api.claudeapiproxy.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "get the current server time in ISO format"}]
}'- احسب كل حرف في طلب النظام الخاص بك.
- تضمين سجل المحادثة في حساب الرموز المدخلة.
- الحساب لتجاوز عبء التنسيق بصيغة JSON.
- تحقق من عدد الرموز المميزة قبل إرسال حمولات كبيرة.
فخ نافذة السياق: 100k وارد مقابل 16k إخراج
توفر واجهة برمجة التطبيقات (API) لدينا نافذة سياق تتسع لـ 100,000 رمز، ولكن يمكنك توليد 16,000 رمز فقط لكل طلب. يخلق هذا عدم التوازن فخاً في الفواتير للمستخدمين الذين يفترضون أن الإخراج لا نهائي.
إذا استهلكت طلبك 90,000 رمز، يتبقى لديك فقط 10,000 رمز للإخراج. إذا طلبت حدًا أقصى قدره 16,000 رمز، سيتوقف النموذج مبكرًا. لا تزال تدفع مقابل الرموز التي تم إنشاؤها فعليًا. هذا ليس خطأ. إنه ميزة نوافذ السياق الكبيرة.
يضيع العديد من المستخدمين الرصيد عن طريق تعيين max_tokens مرتفعة جداً. إذا نفد سياق النموذج، يتوقف بشكل طبيعي. تدفع مقابل ما ينتجه. لا تدفع مقابل ما لم يستطع إنتاجه.
from openai import OpenAI
client = OpenAI(base_url="https://api.claudeapiproxy.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)راقب دائمًا السياق المتبقي الخاص بك. استخدم نقطة النهاية /v1/models للتحقق من الحدود الحالية. اضبط طول موجهك لترك مساحة للإخراج. يمنع هذا الرسوم غير المتوقعة من الاستجابات المقصوصة.
الاستجابات التدفقية والفوترة في الجزء الأخير
لا يغيّر البثّ التكلفة الإجمالية. تدفع مقابل نفس عدد الرموز المميزة سواء كانت فورية أو دفعة واحدة. الفرق يكمن في طريقة تتبعك للاستخدام.
عند التدفق، تتلقى عدة أجزاء. يحتوي كل جزء على جزء من الاستجابة. يحتوي الجزء الأخير على ملخص استخدام الرمز. هنا تتحقق من عدد الرموز الدقيقة.
بعض الوكلاء يفرضون رسوماً حسب القطعة. وكيلنا لا يفعل ذلك. نحن نفرض رسوماً على إجمالي الرموز المولدة. وضع التدفق هو لتجربة المستخدم، وليس لكفاءة الفوترة.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)- تدفق لتحديثات واجهة المستخدم في الوقت الفعلي.
- تجاهل الشرائح الوسيطة الخاصة بالفوترة.
- اقرأ القطعة الأخيرة للحصول على عدد الرموز.
- تحقق من أن الاستخدام يتطابق مع توقعاتك.
إثقال استدعاء الوظائف في استخدام الأدوات
إضافة استدعاء الوظائف يضيف عبئاً كبيراً لأن تعريفات الأدوات تتكرر في كل طلب. في كل مرة تستدعي فيها وظيفة، يجب على النموذج إعادة قراءة مخطط الأداة.
إذا كان لديك خمسة أدوات، يحتوي كل منها على 1,000 رمز مميز من التعريفات، فإنك تضيف 5,000 رمز مميز إلى كل طلب. هذا يزيد من تكلفة الإدخال بشكل كبير. بالنسبة للمحادثات الطويلة، يتراكم هذا الحمل الزائد.
تدعم واجهة برمجة التطبيقات (API) لدينا استدعاء الوظائف مع الأدوات (tools) وخيارات الأدوات (tool_choice). يمكنك التحسين عن طريق تقليل تعقيد الأدوات. ادمج الأدوات ذات الصلة في مخططات (schemas) واحدة. هذا يقلل من عدد الرموز (tokens) في كل طلب.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.claudeapiproxy.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);راقب استخدام الرموز المميزة بعناية. يمكن لحجم استدعاءات الوظائف الكبير أن يضاعف تكاليف الإدخال. استخدم التخزين المؤقت لتعريفات الأدوات إذا أمكن. يساعد هذا في إبقاء رصيدك المسبق يدوم لفترة أطول.
لماذا تكون الرفض مجانية ولكن إعادة المحاولة ليست كذلك
الرفض مجاني لأنه لم يتم إنشاء أي رموز. إذا رفض النموذج طلبًا بسبب المحتوى أو التنسيق، لا تدفع شيئاً. هذه ميزة رئيسية للفوترة المدفوعة مسبقاً.
إعادة المحاولة ليست مجانية. إذا أرسلت طلبًا وتلقيت خطأ، فقد تحتاج إلى إعادة المحاولة. تستهلك كل عملية إعادة المحاولة رموزًا. الأخطاء مجانية، لكن إعادة المحاولة ليست كذلك.
تفرض واجهة برمجة التطبيقات الخاصة بنا فقط مقابل الرموز الحقيقية. إذا فشل الطلب قبل توليد الرموز، فلا تدفع شيئًا. إذا فشل بعده، تدفع مقابل ما تم توليده. تمنع هذه الشفافية الرسوم المخفية.
curl https://api.claudeapiproxy.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "get the current server time in ISO format"}]
}'- الرفض يكلف صفر رصيد.
- تستهلك عمليات إعادة المحاولة ميزانيتك.
- الأخطاء مجانية إذا لم يتم توليد رموز مميزة.
- راقب عمليات إعادة المحاولة لتحسين الكفاءة.
تكاليف تنسيق وضع JSON
تكاليف تنسيق وضع JSON مطابقة لنمط النص القياسي. تدفع مقابل الرموز في مخرج JSON. لا يضيف التنسيق رسومًا إضافية.
ومع ذلك، غالباً ما يتطلب الإخراج بتنسيق JSON رموزاً مميزة أكثر من النص العادي. قد تضيف النماذج مسافات بيضاء إضافية أو مفاتيح لضمان صحة تنسيق JSON. هذا يزيد من تكلفة الإخراج الخاصة بك.
تدعم واجهة برمجة التطبيقات الخاصة بنا وضع JSON عبر response_format. يمكنك فرض إخراج JSON صارم. يضمن هذا التوافق مع رمز العميل الخاص بك. التكلفة تكون لكل رمز، وليس لكل تنسيق.
from openai import OpenAI
client = OpenAI(base_url="https://api.claudeapiproxy.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)تحسين مخطط JSON الخاص بك لتقليل عدد الرموز المميزة. أزل المفاتيح غير الضرورية. استخدم أسماء متغيرات أقصر. هذا يساعد في تقليل التكاليف مع الحفاظ على سلامة البيانات.
مقارنة تكاليف الوكلاء مع أسعار البائع المباشرة
غالبًا ما تكون تكاليف Proxy أقل من أسعار البائعين المباشرة لأنك تدفع فقط مقابل الرموز. قد يفرض البائعون المباشرون رسومًا على وقت التشغيل أو الدعم أو إصدارات النماذج. تفرض واجهة برمجة التطبيقات الخاصة بنا $0.15 لكل مليون رمز إدخال و $0.50 لكل مليون رمز إخراج.
لدى البائعين المباشرين مثل Anthropic أو OpenAI فئات تسعير معقدة. قد يفرضون أسعارًا مختلفة لنماذج مختلفة. تقدم واجهة برمجة التطبيقات الخاصة بنا نموذجًا غير خاضع للرقابة واحدًا. هذا يبسط الفوترة.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.claudeapiproxy.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);- فوترة Proxy شفافة ومقدمة الدفع.
- قد يكون لدى البائعين المباشرين رسوم مخفية.
- نموذجنا غير خاضع للرقابة ومفتوح الأوزان.
- قارن عدد الرموز، وليس الأسعار فقط.
حساب التكلفة الفعالة لكل محادثة
تعتمد التكلفة الفعالة لكل محادثة على استخدام الرموز. احسب إجمالي الرموز المرسلة والمستقبلة. اضرب في السعر لكل مليون رمز. هذا يعطيك التكلفة الدقيقة.
على سبيل المثال، إذا استخدمت محادثة 10,000 رمز إدخال و5,000 رمز إخراج، فإن التكلفة هي 0.0015 دولار + 0.0025 دولار = 0.004 دولار. هذا مبلغ ضئيل في معظم الاستخدامات.
curl https://api.claudeapiproxy.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "get the current server time in ISO format"}]
}'تتبع متوسط طول المحادثة. قم بتحسين الأوامر لتقليل رموز الإدخال. هذا يساعدك على التنبؤ بالتكاليف بدقة. الرصيد المدفوع مسبقاً لا ينتهي، لذا يمكنك التخطيط طويل المدى.
تجنب أخطاء الشحن المزدوج مع الرصيد المسبق
نادرًا ما تحدث الشحنات المزدوجة ولكن من الممكن حدوثها. إذا قمت بإضافة رصيد عبر العملات المشفرة، فتأكد من إرسال المبلغ الصحيح. تحسب واجهة API الخاصة بنا فقط مقابل استخدام الرموز المميزة الفعلي. يتم إصلاح الأخطاء عبر صفحة الدعم.
from openai import OpenAI
client = OpenAI(base_url="https://api.claudeapiproxy.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)- تحقق من معاملات التحويل قبل الإضافة.
- تحقق من رصيدك بعد كل طلب.
- أبلغ عن الأخطاء فوراً للحصول على استرداد.
- احتفظ بسجلات لعملياتك.
