Harga Claude: betulkan kesilapan biasa dengan pengebilan proksi

Memahami pengiraan token dalam model tanpa sensor

Ayat pertama setiap bahagian menjawab soalan dalam tajuknya. Pengiraan token ialah unit asas pengebilan untuk mana-mana proksi LLM. Anda membayar untuk setiap token yang dihantar dalam arahan dan setiap token yang dijana dalam respons. Ini termasuk arahan sistem, sejarah perbualan, dan aksara pemformatan.

Ramai pembangun menganggap bahawa hanya teks yang kelihatan yang kira. Ini tidak betul. Setiap ruang, baris baru, dan kurungan JSON menggunakan token. Apabila anda menggunakan model tanpa sensor, jendela konteks akan penuh lebih cepat kerana model ini sering memerlukan penalaran yang lebih panjang untuk mengekalkan koheren tanpa penapis keselamatan.

API kami mengenakan caj $0.15 bagi setiap 1M token input dan $0.50 bagi setiap 1M token output. Kadar ini terpakai untuk penggunaan token sebenar. Ralat tidak mengenakan caj kepada anda. Penolakan adalah percuma. Struktur ini memastikan anda hanya membayar untuk pengiraan sebenar.

Copycurl https://api.claudeapiproxy.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "get the current server time in ISO format"}]
  }'

• Kira setiap aksara dalam prompt sistem anda.
• Termasuk sejarah perbualan dalam kiraan input anda.
• Akaun untuk bebanan format JSON.
• Sahkan kiraan token sebelum menghantar beban besar.

Perangkap tingkap konteks: input 100k vs output 16k

API kami menyediakan jendela konteks 100,000 token, tetapi anda hanya boleh menjana 16,000 token per permintaan. Ketidakseimbangan ini mencipta perangkap pengebilan untuk pengguna yang mengandaikan output tanpa had.

Jika prompt anda menggunakan 90,000 token, anda hanya mempunyai 10,000 token baki untuk output. Jika anda meminta maksimum 16,000 token, model akan berhenti lebih awal. Anda masih membayar untuk token yang benar-benar dijana. Ini bukan pepijat. Ini adalah ciri tingkap konteks besar.

Ramai pengguna membazirkan kredit dengan menetapkan max_tokens terlalu tinggi. Jika model kehabisan konteks, ia berhenti secara semula jadi. Anda membayar untuk apa yang dihasilkannya. Anda tidak membayar untuk apa yang tidak dapat dihasilkannya.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.claudeapiproxy.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Sentiasa pantau baki konteks anda. Gunakan endpoint /v1/models untuk mengesahkan had semasa. Laraskan panjang prompt anda untuk memberi ruang untuk output. Ini mencegah caj tidak dijangka daripada respons yang terpotong.

Respons aliran dan pengebilan pecahan akhir

Pengaliran tidak mengubah jumlah kos. Anda membayar untuk token yang sama sama ada anda menerimanya secara serta-merta atau sekaligus. Perbezaannya terletak pada cara anda menjejaki penggunaan.

Apabila anda mengstrim, anda menerima beberapa pecahan. Setiap pecahan mengandungi sebahagian daripada respons. Pecahan terakhir mengandungi ringkasan penggunaan token. Di sinilah anda mengesahkan kiraan token yang tepat.

Sesetengah proksi mengenakan bayaran per pecahan. Kami tidak. Kami mengenakan bayaran untuk jumlah token yang dijana. Mod aliran adalah untuk pengalaman pengguna, bukan kecekapan pengebilan.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

• Alirkan untuk kemas kini UI masa nyata.
• Abaikan segmen pertengahan untuk pengebilan.
• Baca bahagian akhir untuk kiraan token.
• Sahkan penggunaan sepadan dengan jangkaan anda.

Pertambahan beban dalam penggunaan alat

Panggilan fungsi menambah beban yang ketara kerana definisi alat diulang dalam setiap permintaan. Setiap kali anda memanggil fungsi, model mesti membaca semula skema alat.

Jika anda mempunyai lima alat, setiap satu dengan 1,000 token definisi, anda menambah 5,000 token kepada setiap permintaan. Ini meningkatkan kos input anda dengan ketara. Untuk perbualan panjang, beban tambahan ini terkumpul.

API kami menyokong panggilan fungsi dengan tools dan tool_choice. Anda boleh mengoptimumkan dengan mengurangkan kompleksiti alat. Gabungkan alat berkaitan menjadi skema tunggal. Ini mengurangkan kiraan token setiap permintaan.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.claudeapiproxy.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Pantau penggunaan token anda dengan berhati-hati. Isipadu panggilan fungsi yang tinggi boleh menggandakan kos input anda. Gunakan pengekaman untuk takrifan alat jika boleh. Ini membantu memastikan kredit pra-dibayar anda bertahan lebih lama.

Mengapakah penolakan adalah percuma tetapi cubaan semula bukan

Penolakan adalah percuma kerana tiada token yang dijana. Jika model menolak permintaan kerana kandungan atau format, anda tidak membayar apa-apa. Ini adalah manfaat utama pengebilan prabayar.

Percubaan semula tidak percuma. Jika anda menghantar permintaan dan mendapat ralat, anda mungkin perlu mencuba semula. Setiap percubaan semula menggunakan token. Ralent adalah percuma, tetapi percubaan semula tidak.

API kami mengenakan caj hanya untuk penggunaan token sebenar. Jika permintaan gagal sebelum penjanaan token, anda tidak membayar apa-apa. Jika gagal selepas itu, anda membayar untuk apa yang telah dijana. Ketelusan ini menghalang yuran tersembunyi.

Copycurl https://api.claudeapiproxy.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "get the current server time in ISO format"}]
  }'

• Penolakan kos sifar kredit.
• Percubaan semula menggunakan bajet anda.
• Kesilapan percuma jika tiada token dijana.
• Pantau percubaan semula untuk mengoptimumkan kecekapan.

Kos format mod JSON

Kos format mod JSON adalah sama dengan mod teks standard. Anda membayar untuk token dalam output JSON. Format tidak menambah caj tambahan.

Walau bagaimanapun, output JSON sering memerlukan lebih banyak token berbanding teks biasa. Model mungkin menambah ruang putih atau kunci tambahan untuk memastikan JSON yang sah. Ini meningkatkan kos output anda.

API kami menyokong mod JSON melalui response_format. Anda boleh memaksakan output JSON yang ketat. Ini memastikan keserasian dengan kod klien anda. Kos adalah per token, bukan per format.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.claudeapiproxy.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Optimumkan skema JSON anda untuk mengurangkan bilangan token. Buang kekunci yang tidak perlu. Gunakan nama pemboleh ubah yang lebih pendek. Ini membantu meminimumkan kos sambil mengekalkan integriti data.

Membandingkan kos proksi dengan harga vendor langsung

Kos proxy sering lebih rendah daripada harga vendor langsung kerana anda hanya membayar untuk token. Vendor langsung mungkin mengenakan caj untuk masa hidup, sokongan, atau versi model. API kami mengenakan caj $0.15 bagi 1M token input dan $0.50 bagi 1M token output.

Vendor langsung seperti Anthropic atau OpenAI mempunyai tahap harga yang kompleks. Mereka mungkin mengenakan kadar berbeza untuk model yang berbeza. API kami menawarkan satu model tanpa sensor. Ini memudahkan pembilasan.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.claudeapiproxy.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

• Pembilakan proxy adalah telus dan pra-dibayar.
• Vendor langsung mungkin mempunyai yuran tersembunyi.
• Model kami tanpa sensor dan berat terbuka.
• Bandingkan kiraan token, bukan hanya harga.

Mengira kos efektif per perbualan

Kos efektif setiap percakapan bergantung pada penggunaan token. Kira jumlah token yang dihantar dan diterima. Darabkan dengan kadar per juta token. Ini memberikan anda kos tepat.

Sebagai contoh, jika perbualan menggunakan 10,000 token input dan 5,000 token output, kosnya ialah $0.0015 + $0.0025 = $0.004. Ini adalah kecil untuk kebanyakan kegunaan.

Copycurl https://api.claudeapiproxy.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "get the current server time in ISO format"}]
  }'

Jejak purata panjang perbualan anda. Optimumkan prompt untuk mengurangkan token input. Ini membantu anda meramal kos dengan tepat. Kredit pra-dibayar tidak luput tarikh luput, jadi anda boleh merancang jangka panjang.

Mengelakkan kesilapan caj berganda dengan kredit pra-dibayar

Caj berganda jarang berlaku tetapi mungkin berlaku. Jika anda menambah nilai melalui kripto, pastikan anda menghantar jumlah yang betul. API kami hanya mengenakan caj untuk penggunaan token sebenar. Kesilapan dibetulkan melalui halaman Sokongan.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.claudeapiproxy.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

• Sahkan hash transaksi sebelum menambah baki.
• Semak baki anda selepas setiap permintaan.
• Laporkan ralat serta-merta untuk bayaran balik.
• Kekalkan rekod transaksi anda.