Anggar kos LLM API anda sebelum membuat komitmen
Kadar daripada katalog awam semasa. Token input dan output dibilkan secara berasingan.
CNY setiap juta token. Anggaran penggunaan bermeter, bukan harga tunai pakej prabayar.
Bagaimana kalkulator ini berbeza daripada meneka
Kadar daripada katalog awam semasa. Token input dan output dibilkan secara berasingan.
| Kalkulator ini | Anggaran kasar | |
|---|---|---|
| Model | Kadar daripada katalog awam semasa. Token input dan output dibilkan secara berasingan. | Ingatan atau satu catatan blog |
| Kadar hit cache | Kadar cache hanya untuk input pada harga yang diterbitkan. Ketiadaan harga tidak bermakna diskaun. | Biasanya diabaikan |
Untuk siapa ini
Berguna jika anda
- Mahukan anggaran kos yang boleh dipertahankan sebelum memindahkan trafik ke sesuatu model
- Mahu melihat bagaimana kadar hit cache lebih tinggi menurunkan kadar berkesan anda
- Sedang membelanjawankan perbelanjaan LLM bulanan dalam CNY
Kurang berguna jika anda
- Perlukan angka dalam USD, kalkulator ini berfungsi dalam CNY
- Mengecaj setiap imej atau setiap panggilan dan bukan setiap token (baris itu dikecualikan)
- Mahukan sebut harga yang dijamin, penggunaan sebenar bergantung pada prompt dan output anda
- Perlukan harga asli pembekal untuk model yang tidak dihalakan oleh gateway
Cara membaca keputusan
Pengiraannya mudah dan telus, tetapi anggaran tetap anggaran.
- Kos = input tanpa cache × harga input + input cache × harga cache + output × harga output.
- Kadar cache hanya untuk input pada harga yang diterbitkan. Ketiadaan harga tidak bermakna diskaun.
- Hanya model dengan harga token input dan output yang diterbitkan disertakan, bukan model per panggilan.
- CNY setiap juta token. Anggaran penggunaan bermeter, bukan harga tunai pakej prabayar.
Peraturan di sebalik angka
Kadar daripada katalog awam semasa. Token input dan output dibilkan secara berasingan.
Ini ialah anggaran berdasarkan kadar yang diterbitkan dan input anda, bukan sebut harga. Kos sebenar bergantung pada penggunaan token sebenar dan kelakuan cache dalam beban kerja anda.
Kalkulator harga — Soalan Lazim
Dari mana datangnya kadar?
Kadar daripada katalog awam semasa. Token input dan output dibilkan secara berasingan.
Apakah fungsi kadar hit cache?
Kadar cache hanya untuk input pada harga yang diterbitkan. Ketiadaan harga tidak bermakna diskaun.
Adakah keputusan ini harga yang dijamin?
Tidak. Ia anggaran. Kos sebenar anda bergantung pada bilangan token input dan output sebenar dan berapa banyak input yang dicache.
Mengapa semuanya dalam CNY?
CNY setiap juta token. Anggaran penggunaan bermeter, bukan harga tunai pakej prabayar.
Berpuas hati dengan anggaran?
Beli kunci dan mula, kredit prabayar, tanpa tamat tempoh.