無限ノック › AIP 練習問題一覧 › 問題
AIP生成AIアプリケーションの運用効率と最適化

SaaS 企業がコスト最適化を目指して Amazon Bedrock を使用したチャットボットを構築しています。クエリ分析の結果、単純な FAQ 回答が全体の 60%、標準的な質問応答が 30%、複雑な推論・分析が 10% という構成です。品質を維持しながら最もコストを削減できるルーティング戦略はどれですか?

A
全クエリに Claude 3.5 Sonnet を使用し、品質の一貫性を確保する(コストよりも品質を優先)
全クエリを高性能モデルで処理する選択肢であり、コスト非効率です。
B
Lambda 内でクエリの複雑さを評価するルーターを実装する:FAQ キーワードマッチなら Amazon Nova Micro、標準質問なら Claude 3 Haiku、複雑な推論なら Claude 3.5 Sonnet にルーティングする
✓ 正解
マルチモデルルーティング戦略はBedrockのコスト最適化における重要パターンです。Lambdaルーターがクエリの複雑さ(キーワードマッチ・入力長・意図分類など)を評価し、最安値モデルから順に適切なモデルに振り分けます。FAQ の 60% を Amazon Nova Micro(Amazon製の超軽量・低コストテキストモデル)で処理するだけで大幅なコスト削減が見込めます。
C
全クエリに Claude 3 Haiku を使用し(最低コスト)、複雑な質問への品質低下はユーザーフィードバックで把握してから事後対応する
全クエリを Claude 3 Haiku で処理する選択肢であり、複雑な推論で品質が低下するリスクがあります。
D
Amazon Bedrock Marketplace でサードパーティの軽量モデルを 1 つ調達し、全クエリをそのモデルで処理することで Bedrock のオンデマンドコストを削減する
サードパーティの軽量モデルを1つに限定するもので、複雑な推論での品質低下リスクがあります。

解説

正解: Lambda 内でクエリの複雑さを評価するルーターを実装する:FAQ キーワードマッチなら Amazon Nova Micro、標準質問なら Claude 3 Haiku、複雑な推論なら Claude 3.5 Sonnet にルーティングする。 マルチモデルルーティング戦略はBedrockのコスト最適化における重要パターンです。Lambdaルーターがクエリの複雑さ(キーワードマッチ・入力長・意図分類など)を評価し、最安値モデルから順に適切なモデルに振り分けます。FAQ の 60% を Amazon Nova Micro(Amazon製の超軽量・低コストテキストモデル)で処理するだけで大幅なコスト削減が見込めます。 選択肢Aは全クエリを高性能モデルで処理する選択肢であり、コスト非効率です。 選択肢Cは全クエリを Claude 3 Haiku で処理する選択肢であり、複雑な推論で品質が低下するリスクがあります。 選択肢Dはサードパーティの軽量モデルを1つに限定するもので、複雑な推論での品質低下リスクがあります。

ドメイン別正答率・予想スコアでリアルタイムに実力把握

無限ノックでAIPを徹底対策。全問AI生成のオリジナル問題。

無料で演習を始める →
← AIP の問題一覧に戻る