SaaS 企業がコスト最適化を目指して Amazon Bedrock を使用したチャットボットを構築しています。クエリ分析の結果、単純な FAQ 回答が全体の 60%、標準的な質問応答が 30%、複雑な推論・分析が 10% という構成です。品質を維持しながら最もコストを削減できるルーティング戦略はどれですか?
正解: Lambda 内でクエリの複雑さを評価するルーターを実装する:FAQ キーワードマッチなら Amazon Nova Micro、標準質問なら Claude 3 Haiku、複雑な推論なら Claude 3.5 Sonnet にルーティングする。 マルチモデルルーティング戦略はBedrockのコスト最適化における重要パターンです。Lambdaルーターがクエリの複雑さ(キーワードマッチ・入力長・意図分類など)を評価し、最安値モデルから順に適切なモデルに振り分けます。FAQ の 60% を Amazon Nova Micro(Amazon製の超軽量・低コストテキストモデル)で処理するだけで大幅なコスト削減が見込めます。 選択肢Aは全クエリを高性能モデルで処理する選択肢であり、コスト非効率です。 選択肢Cは全クエリを Claude 3 Haiku で処理する選択肢であり、複雑な推論で品質が低下するリスクがあります。 選択肢Dはサードパーティの軽量モデルを1つに限定するもので、複雑な推論での品質低下リスクがあります。