入力・出力の単価とバッチ割引率、月のリクエスト数、1リクエストあたりの入力・出力トークン数を入れると、通常の API とバッチ API の月額料金を比べ、節約額を計算します。単価と割引率は例の値なので、利用するサービスの料金に置き換えてください。
バッチAPI 月額比較計算ツール(通常API との料金差)
入力・出力の単価とバッチ割引率・リクエスト数・トークン数から、通常のAPIとバッチAPIの月額料金を比べます。
使い方
- 入力単価と出力単価(どちらも100万トークンあたり)と、バッチの割引率を入力します。初期値は例の値で、通貨は円でもドルでもかまいません。
- 月のリクエスト数と、1リクエストあたりの入力・出力トークン数を入力します。
- すべてをバッチに回せない場合は「バッチに回す割合」を調整し、月額と節約額を確認します。
計算式
1リクエストの料金 = (入力トークン × 入力単価 + 出力トークン × 出力単価) ÷ 100万
通常の月額 = リクエスト数 × 1リクエストの料金
バッチ利用時 = 通常の月額 × (1 − バッチに回す割合 × 割引率)
バッチ API は、多数のリクエストをまとめて送り、結果を後から受け取る仕組みです。すぐに結果が返らない代わりに、割引された単価で処理されるのが一般的です。
計算例
初期値の「入力単価3、出力単価15、割引50%、月10万リクエスト、入力1,000・出力500トークン、バッチに回す割合100%」で計算します。
- 1リクエスト:(1,000×3+500×15)÷100万 = 0.0105
- 通常の月額:100,000×0.0105 = 1,050
- バッチ利用時:1,050×(1−100%×50%) = 525
- 節約額:月525、年間6,300
結果の見方
節約額は「リクエスト数×1件の料金×バッチに回す割合×割引率」で決まります。大量の文章の分類・要約・翻訳、データの前処理、評価用の一括生成など、結果をすぐに必要としない処理が多いほど効果が大きくなります。
出力単価が入力単価より高い場合が多いため、出力トークンが多い処理ほど1件の料金が高くなり、節約額も大きくなります。
バッチに回す割合ごとの月額
計算例と同じ条件(通常の月額1,050、割引50%)で、バッチに回す割合だけを変えた場合です。
| バッチに回す割合 | 月額 | 月の節約額 |
|---|---|---|
| 0% | 1,050 | 0 |
| 25% | 918.75 | 131.25 |
| 50% | 787.5 | 262.5 |
| 100% | 525 | 525 |
節約額はバッチに回す割合に比例します。急がない処理を洗い出して、どれくらいの割合を回せるかを先に考えると試算しやすくなります。
あわせて、結果が返るまでの時間が業務に影響しないかも確認しておきましょう。
月額の見積もりは、リクエスト数が増えたときの値もあわせて計算しておくと、予算を決めやすくなります。
また、出力トークン数は指示の書き方で変わるため、実際の平均値を計測してから入力すると見積もりの精度が上がります。
注意点
- 概算です。単価、割引率、結果が返るまでの時間、1回にまとめられる件数の上限は、サービスごとに異なり変更されることもあります。最新の公式情報で確認してください。
- チャットのようにすぐ返答が必要な処理は、バッチには向きません。
- プロンプトキャッシュなど、ほかの割引と組み合わせられるかどうかはサービスによって異なります。
- 失敗したリクエストの再実行分は、この計算に含まれていません。
バッチAPIの節約額のよくある質問
Q. バッチAPIとは何ですか?
A. 多数のリクエストをまとめて送り、一定時間内に処理してもらう仕組みです。すぐには結果が返らない代わりに、通常より安い単価が設定されていることが多いです。
Q. どんな処理がバッチAPIに向いていますか?
A. 大量の文章の分類や要約、データの整形、評価用の回答の一括生成など、結果をすぐに使わない処理です。
Q. すべてをバッチにしないといけませんか?
A. いいえ。急ぐ処理は通常のAPI、急がない処理はバッチと使い分けられます。このツールでは「バッチに回す割合」でその場合の月額を試算できます。
