AIP生成AIアプリケーションの運用効率と最適化
ある製造業企業が、設備保守ワークフローを自動化するBedrock Agentを本番環境に構築しています。現在の構成ではエージェントが毎回大量のシステムプロンプト（約8,000トークン）とアクショングループのOpenAPIスキーマ定義（約4,000トークン）をClaudeに送信しており、月間15万リクエストで推論コストが予算を超過しています。エージェントの機能を維持しながら最もコストを削減できる方法はどれか？
Aエージェントが使用するモデルをClaude 3 OpusからClaude 3 Haikuに変更し、単純なクエリのみHaikuで処理するルーティングロジックをプリプロセッサーLambdaに実装する
モデル変更は品質劣化リスクがありルーティング実装コストも発生します。
BBedrock Agentのプロンプトキャッシング（Prompt Caching）を有効化する
✓ 正解
Bedrock Agentのプロンプトキャッシング機能により、リクエスト間で不変なシステムプロンプトとOpenAPIスキーマがキャッシュされ、キャッシュヒット時の入力トークンコストが最大90%削減されます。月15万リクエストで大幅な削減が見込めます。
Cアクショングループを統合して数を減らし、複数のツールを1つのLambda関数に集約することでOpenAPIスキーマのトークン数を削減する
ツール統合はスキーマ削減量が限定的で保守性も低下します。
DBedrock Provisioned Throughputを1か月コミットで購入し、オンデマンド従量課金からコミットメント料金体系に切り替える
Provisioned Throughputはスループット保証でありコスト削減ではなく、固定費が発生するため低負荷時にはコスト増になります。
解説
設備保守エージェントのシステムプロンプトとOpenAPIスキーマ定義（計12,000トークン）はリクエスト間で不変です。プロンプトキャッシングを有効化するとこれらの静的コンテンツがキャッシュされ、キャッシュヒット時の入力トークンコストが最大90%削減されます。月15万リクエストでキャッシュヒット率が高い場合、大幅なコスト削減が実現できます。
選択肢Aはモデルをより安価なHaikuに変更する手法ですが、品質劣化リスクがあり、ルーティングロジックの実装・運用コストも新たに発生します。
選択肢Cはアクショングループの統合によってスキーマのトークン数を削減できますが、削減量が限定的で保守性も低下します。
選択肢DのProvisioned Throughputはスループット保証のサービスであり、コスト削減が目的ではありません。固定費が発生するため低負荷時にはかえってコスト増になります。
ドメイン別正答率・予想スコアでリアルタイムに実力把握
無限ノックでAIPを徹底対策。全問AI生成のオリジナル問題。
無料で演習を始める →