AIP実装と統合
法律事務所が Amazon Bedrock の Claude モデルを使用して契約書分析システムを構築しています。各リクエストには会社の法務ガイドライン・判例ルール・分析手順を含む約 60,000 トークンの静的システムプロンプトが含まれており、分析対象の契約書テキスト自体は平均 5,000 トークンです。毎日数千件を処理しており、コスト最適化が最重要課題です。応答品質は現状のまま維持する必要があります。この構成でトークン処理コストを最も効果的に削減するアーキテクチャはどれですか？
AClaude モデルに対して Bedrock プロビジョンドスループットを購入し、オンデマンド料金と比較して単位コストを下げながら安定したスループットを確保する
Bedrock プロビジョンドスループットはスループット（処理速度・並列数）を保証する機能であり、固定費用が発生します。トークン単価の削減はある程度ありますが、60,000 トークンの静的プロンプトを毎回フル処理するコスト構造は変わらず、プロンプトキャッシングほどの効果はありません。
BBedrock Prompt Management でシステムプロンプトをバージョン管理し、プロンプトキャッシングを有効化して静的な大容量システムプロンプトの処理結果をキャッシュする
✓ 正解
プロンプトキャッシングを使用すると、変化しないシステムプロンプトはキャッシュヒット時に大幅に低いコスト（約 10% 程度）で処理できます。60,000 トークンの静的プロンプトと 5,000 トークンの動的コンテンツという構成は、プロンプトキャッシングの効果が最大限に発揮される典型的なユースケースです。
Cシステムプロンプトの内容を要約・圧縮して 10,000 トークン以下に削減し、毎回処理するトークン数自体を大幅に減らしてコストを抑える
システムプロンプトの圧縮・要約は、法務ガイドラインや判例ルールの詳細が失われ、分析精度の低下を招くリスクがあります。コスト削減できても応答品質の維持という要件に反するため、この方法は適切ではありません。
DAmazon Bedrock Batch Inference API を使用して契約書を非同期バッチ処理し、リアルタイム API よりも低コストのレートで大量処理を行う
Batch Inference API はリアルタイム性が不要なバッチ処理で有効なコスト削減策ですが、毎回 60,000 トークンの静的プロンプトを処理するコスト構造の問題は解決されません。応答時間の要件次第では有効ですが、プロンプトキャッシングとの組み合わせがより効果的です。
解説
Bedrock のプロンプトキャッシング機能を使用すると、静的なシステムプロンプトの処理結果をキャッシュできます。60,000 トークンのシステムプロンプトは毎リクエスト変化しないため、キャッシュヒット時は通常の約 10% 程度のコストで処理できます。Bedrock Prompt Management と組み合わせることでプロンプトのバージョン管理も可能です。毎日数千リクエストの規模では、この手法により大幅なコスト削減が見込めます。
選択肢Aの Bedrock プロビジョンドスループットはスループット保証のための機能であり、固定費用も発生します。60,000 トークンの静的プロンプトを毎回処理するコスト構造は変わらず、プロンプトキャッシングほどの削減効果はありません。
選択肢Cのプロンプト圧縮は、法務ガイドラインや判例ルールの重要な詳細が失われ分析精度が低下するリスクがあり、応答品質の維持という要件に反します。
選択肢Dの Batch Inference API はコスト効率に優れますが、静的プロンプトの重複処理コストの構造的問題を解決しないため、プロンプトキャッシングとの組み合わせがより効果的です。
ドメイン別正答率・予想スコアでリアルタイムに実力把握
無限ノックでAIPを徹底対策。全問AI生成のオリジナル問題。
無料で演習を始める →