ある大手小売企業が、Amazon BedrockでカスタマーサポートAIを運用しています。ログ分析の結果、クエリの約70%は「営業時間は何時ですか?」「返品ポリシーを教えてください」といった単純なFAQ回答であり、残り30%は複雑な注文トラブルの調査・解決です。現在はすべてのクエリにClaude 3.5 Sonnet(高性能・高コスト)を使用しており、月間コスト削減が急務です。単純なクエリには低コストモデルを、複雑なクエリには高性能モデルを自動的に使い分けるために、最も少ない実装工数で実現できる方法はどれですか?
Amazon Bedrock Intelligent Prompt Routingは、クエリの複雑さをルーターモデルが自動評価し、プライマリモデル(高性能・高コスト)とセカンダリモデル(低コスト)の間を動的にルーティングする機能です。アプリケーションから見ると単一のエンドポイントとして機能するため、既存の呼び出しコードをほぼ変更せずに導入でき、実装工数を最小化しながらコストとパフォーマンスのバランスを最適化できます。 選択肢Aの「キーワードマッチング」は、精度が低くエッジケース対応が困難であり、Intelligent Prompt Routingと比べて実装・保守コストが大幅に増加します。 選択肢Cの「SageMaker」は、分類モデルトレーニングとStep Functionsワークフロー構築に大規模な実装作業が必要で、「最も少ない実装工数」という要件に反します。 選択肢Dの「Guardrails」は、コンテンツフィルタリング・PIIマスキング・有害コンテンツ検出を目的とするサービスであり、クエリの複雑さに基づいたモデルルーティングには使用できません。