数値の由来
モデルAPIはキーではなくトークンを販売します。glm api キーの料金の場合、必要な数値は入力レート、出力レート、キャッシュまたはバッチリクエストの割引(該当する場合)であり、これらはすべてプロバイダの公式価格ページに100万トークンあたりで記載されています。レートとモデル名は変更されるため、ここでは引用しません。現在の数値を以下の表にコピーすれば、この記事の残りの部分はあらゆるプロバイダで機能します。
トークンはテキストの断片で、英語の単語の約 4 分の 3 です。他の言語やコードは単語あたりのトークン数が多くなる場合があります。プロバイダーのトークナイザーまたはレスポンスの usage フィールドが正確な数を示すため、経験則よりも優れています。
価格ページではコンテキストの長さ、レート制限、tier などの用語も表示されます。最初の 2 つのレートのみが請求に影響します。コンテキストの長さはリクエストあたりの送信量を制限し、レート制限は送信速度を制限します。この API ではコンテキストウィンドウは 100,000 トークンで、フルキーは最大 8 同時リクエストと 1 分あたり 300 リクエストまで許可します。
リクエストごとのトークンを数える
アプリケーションが実行する各タイプのリクエストについて、4 つの数値を記録してください:
- 固定入力:システムプロンプトとツール定義。
- 可変入力:ユーザーメッセージ、取得したドキュメント、チャット履歴。
- 出力:典型的な返信の長さ。
- ボリューム:1 日あたりのリクエスト数。
チャット履歴はよくある落とし穴です。各ターンではそれ以前のすべてのメッセージが再送信されるため、10 ターン分の会話の入力コストはメッセージ 10 個分ではなく、1 + 2 + ... + 10 の合計、つまり 55 メッセージユニットになります。会話が長くなる場合は、履歴を切り詰めまたは要約してください。
推測ではなく測定を行うには、使用量ブロックをログに記録してください。このAPIでは、すべてのレスポンスで使用量ブロックが返され、ストリーミングではストリームの最後に届きます。
from openai import OpenAI
client = OpenAI(base_url="https://api.apikeyglm.com/v1", api_key="YOUR_KEY")
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write a 100-word product blurb for a lamp."}],
stream=True,
stream_options={"include_usage": True},
)
for event in stream:
if event.usage:
print("in:", event.usage.prompt_tokens, "out:", event.usage.completion_tokens)初期の予測を行うには、実際のデータをサンプリングしてください。実際のユーザーメッセージまたはドキュメント50件を取得し、それらを実行して、トークン数の平均値と90パーセンタイル値を使用してください。平均値は予想される請求額を、パーセンタイル値は多量利用月の状況を示します。
計算例 1:チャットボット
1日あたり500人のユーザーがそれぞれ6メッセージを送信するため、3,000リクエストになります。各リクエストの入力トークンは平均2,000(履歴とシステムプロンプトを含む)、出力トークンは300です。
- 1 日あたりの入力:3,000 x 2,000 = 6M トークン、つまり 6 x $0.15 = $0.90。
- 1 日あたりの出力:3,000 x 300 = 0.9M トークン、つまり 0.9 x $0.50 = $0.45。
- 1日の合計: $1.35。30日間で: $40.50。
計算例 2 および 3:バッチと検索
各 1,500 トークンの 50,000 件のドキュメントを 150 トークンの要約にまとめます。
- 入力:50,000 x 1,500 = 75M トークン、つまり 75 x $0.15 = $11.25。
- 出力:50,000 x 150 = 7.5M トークン、つまり 7.5 x $0.50 = $3.75。
- 合計:$15.00。
バッチ処理にはもう1つの調整可能な要素があります。並列実行できますが、フルキーは最大8つの同時リクエストと1分あたり300リクエストに制限されているため、50,000リクエストには1分あたりの上限(50,000 / 300)で少なくとも167分かかります。コストだけでなく、実時間の計画も立ててください。
計算例 3:検索拡張回答
サポートアシスタントは月間20,000件の質問を処理します。各質問は8,000トークンの入力(指示と検索された記事)を送信し、400トークンの回答を得ます。
- 入力:20,000 x 8,000 = 160M トークン、つまり 160 x $0.15 = $24.00。
- 出力:20,000 x 400 = 8M トークン、つまり 8 x $0.50 = $4.00。
- 合計:月額$28.00。
ここでのコンテキストウィンドウは 100,000 トークン(プロンプトと生成トークンを合計)です。したがって、8,000 トークンのコンテキストは大きな余裕を残します。入力はこの請求の 86 パーセントを占め、これは検索で典型的なものです。取得したテキストを削ることは、回答を短くするよりも重要です。
リクエストサイズが価格に与える影響
1,000リクエストあたりの価格は、単純な乗算でスケーリングできるため便利な単位です。100万トークンあたり$0.15および$0.50の4つのリクエスト形状を以下に示します。
| リクエストの形状 | 1,000回あたりの入力コスト | 1,000 リクエストあたりの出力コスト | 1,000件あたりの合計 |
|---|---|---|---|
| 入力500、出力200 | $0.075 | $0.100 | $0.175 |
| 入力 2,000、出力 300 | $0.300 | $0.150 | $0.450 |
| 入力 8,000、出力 400 | $1.200 | $0.200 | $1.400 |
| 入力 30,000、出力 1,000 | $4.500 | $0.500 | $5.000 |
パターンは明白です。短いチャットリクエストは安価で出力中心です。大規模なコンテキストを必要とするリクエストは入力中心で、入力行が支配的になります。自分が実行するタイプが分かれば、どちらの調整を行うべきかがわかります:最初のタイプには短い回答を、2 番目のタイプには切り詰めたコンテキストを。
見積もりを誤らせるミス
- トークンではなく単語でカウントすること。 1,000 語の英語テキストは約 1,300 トークン、コードや非英語テキストではさらに多くなります。
- 履歴の忘却。 チャット入力は上記に示す通り、ターンごとに増大します。
- スパイクトラフィックに平均値を使用すること。 発売日は通常日の 10 倍になる場合があります。耐えられるピークに合わせて予算を組みましょう。
- リトライを無視すること。 余裕を追加してください。この API では失敗または拒否されたリクエストには課金されませんが、比較する他のプロバイダーでもこれを確認してください。
- 出力制限をスキップする。トークンあたりの出力コストは高くなります。ラベルや短い要約だけでよい場合は、それを指定し、
max_tokensをハードリミットとして設定してください。ここでは必須ではありません。
GLM の料金と比較
この表にプロバイダーの現在の数値と自社の使用量を記入してください:
| 行 | この API | GLM(現在の料金を確認) |
|---|---|---|
| 1Mトークンあたりの入力レート | $0.15 | 確認する |
| 1Mトークンあたりの出力レート | $0.50 | 確認する |
| キャッシュ入力割引 | レートカードに含まれていない | 確認する |
| 失敗したリクエストも課金される | なし | 確認する |
| チャージ | 前払いの暗号資産、期限なし | 確認する |
次に、価格だけでなく比較してください。拒否の動作、コンテキストの長さ、モデルが出力フォーマットに従えるかどうかは、すべてリトライの支払い数に影響します。このAPIは1つのオープンウェイトモデル、uncensoredを提供しており、これは法に適合する成人向けにコンテンツ拒否なしで回答するように調整されています。これは独立したサービスであり、Zhipu、Z.ai、またはその他のベンダーの公式APIではありません。類似の統合を見るには、サイトのKimi apikey統合ガイドに従ってください。
予算とチャージ
リトライ、長いプロンプト、成長を見込んで見積もりに20〜30%を加算してください。チャットボットの場合、$40.50の見積もりは約$49〜$53の予算になります。$20から$500までの整数金額でチャージでき、$50のチャージで+5%ボーナス($52.50のクレジット)、$100のチャージで+10%ボーナス($110.00のクレジット)、$200のチャージで+15%ボーナス($230.00のクレジット)が得られます。支払いは暗号資産のみで、TRC20上のUSDTまたはBase上のUSDCとなり、クレジットは期限切れになりません。
新規ユーザーは、有効期間7日の$0.50の無料トライアルクレジットでエンドポイントを試すことができます。チャットボットの例では1リクエストあたり2,300トークンなので、約1,100回のテストリクエストが可能です。料金ページで完全な料金表を確認し、キーを取得して、制限やヘッダーについてはドキュメントをお読みください。
最後に、アラートを設定してください。各レスポンスにはX-Balance-USDが含まれるため、数行のコードでクレジットが数日分の支出を下回った際に警告を出すことができます。Kimi apikey統合ガイドでは、関連するコンテキストで同じ種類のクライアント設定方法が示されています。
