Claude Prompt Caching入門：APIコストを90%削減する方法

Claude Prompt Cachingで長大コンテキストのコストを90%削減する実装例

Anthropic APIのPrompt Caching機能を使い、長いシステムプロンプトやドキュメントをキャッシュしてAPI呼び出しコストと応答速度を大幅に改善する方法を実装します。

import anthropic

client = anthropic.Anthropic()

# 長大なシステムプロンプト（ドキュメントや仕様書を含む想定）
long_system_prompt = """あなたは社内ナレッジベースのQAアシスタントです。
以下の社内ドキュメントに基づいて質問に回答してください。

## 製品仕様書（抜粋・数千トークンを想定）
- 製品名: DataFlow Pro v3.2
- リリース日: 2025年4月
- 主要機能: リアルタイムETL、ストリーム処理、バッチ処理
- 対応データソース: PostgreSQL, MySQL, MongoDB, S3, Kafka, BigQuery
- SLA: 99.95%のアップタイム保証
- セキュリティ: SOC2 Type II, ISO 27001準拠
- API Rate Limit: 1000 req/min (Standard), 5000 req/min (Enterprise)
...(実際には数千〜数万トークンのドキュメントが続く）..."""

# ---- cache_control を使った呼び出し ----
# system メッセージに cache_control を付与するとキャッシュ対象になる
response = client.messages.create(
    model="claude-sonnet-4-20250514",
    max_tokens=1024,
    system=[
        {
            "type": "text",
            "text": long_system_prompt,
            "cache_control": {"type": "ephemeral"}  # キャッシュを有効化
        }
    ],
    messages=[
        {"role": "user", "content": "DataFlow Proの対応データソースを教えてください"}
    ]
)

print("=== 1回目（キャッシュ作成） ===")
print(f"応答: {response.content[0].text}")
print(f"入力トークン: {response.usage.input_tokens}")
print(f"キャッシュ作成トークン: {response.usage.cache_creation_input_tokens}")
print(f"キャッシュ読取トークン: {response.usage.cache_read_input_tokens}")

# ---- 2回目の呼び出し（キャッシュヒット） ----
response2 = client.messages.create(
    model="claude-sonnet-4-20250514",
    max_tokens=1024,
    system=[
        {
            "type": "text",
            "text": long_system_prompt,
            "cache_control": {"type": "ephemeral"}
        }
    ],
    messages=[
        {"role": "user", "content": "Rate Limitはプランごとにいくつですか？"}
    ]
)

print("n=== 2回目（キャッシュヒット） ===")
print(f"応答: {response2.content[0].text}")
print(f"入力トークン: {response2.usage.input_tokens}")
print(f"キャッシュ作成トークン: {response2.usage.cache_creation_input_tokens}")
print(f"キャッシュ読取トークン: {response2.usage.cache_read_input_tokens}")

# コスト比較の解説
print("n=== コスト効果 ===")
print("キャッシュなし (Sonnet): 入力 $3/MTok")
print("キャッシュ作成時:        入力 $3.75/MTok（25%割増）")
print("キャッシュ読取時:        入力 $0.30/MTok（90%削減）")
print("→ 2回目以降は入力コストが1/10に")

Prompt Cachingが特に有効なのは、長大なシステムプロンプト（社内文書・API仕様書・法律文書など）を繰り返し参照するユースケースです。初回呼び出し時にキャッシュが作成され（25%の追加コスト）、同一プレフィックスの後続リクエストではキャッシュされた部分のトークン料金が90%削減されます。キャッシュの有効期間は5分間で、その間にリクエストがあれば延長されます。注意点として、キャッシュはsystemメッセージの先頭から連続するテキストに対して有効であり、途中で内容を変更するとキャッシュミスが発生します。RAGシステムや社内QAボットなど、共通のコンテキストで多数の質問を処理する場面で大きなコスト効果を発揮します。