無限ノック › AIP 練習問題一覧 › 問題
AIP生成AIアプリケーションの運用効率と最適化

ある大手小売企業が、Amazon BedrockでカスタマーサポートAIを運用しています。ログ分析の結果、クエリの約70%は「営業時間は何時ですか?」「返品ポリシーを教えてください」といった単純なFAQ回答であり、残り30%は複雑な注文トラブルの調査・解決です。現在はすべてのクエリにClaude 3.5 Sonnet(高性能・高コスト)を使用しており、月間コスト削減が急務です。単純なクエリには低コストモデルを、複雑なクエリには高性能モデルを自動的に使い分けるために、最も少ない実装工数で実現できる方法はどれですか?

A
Lambda関数内でキーワードマッチングとトークン数によりクエリを分類し、単純クエリはClaude 3 Haikuに、複雑クエリはClaude 3.5 Sonnetにルーティングするロジックを自前実装する
「キーワードマッチング」は、精度が低くエッジケース対応が困難であり、Intelligent Prompt Routingと比べて実装・保守コストが大幅に増加します。
B
Amazon Bedrock Intelligent Prompt Routingを使用する。クエリの複雑さをルーターモデルが自動評価し、プライマリ(高性能)モデルとセカンダリ(低コスト)モデルの間を自動ルーティングするため、アプリケーション側の分類ロジックが不要になる
✓ 正解
Amazon Bedrock Intelligent Prompt Routingは、クエリの複雑さをルーターモデルが自動評価し、プライマリモデル(高性能・高コスト)とセカンダリモデル(低コスト)の間を動的にルーティングする機能です。アプリケーションから見ると単一のエンドポイントとして機能するため、既存の呼び出しコードをほぼ変更せずに導入でき、実装工数を最小化しながらコストとパフォーマンスのバランスを最適化できます。
C
Amazon SageMakerでクエリ複雑度分類モデルをトレーニングし、その推論結果に基づいてBedrockのモデルを切り替えるAWS Step Functionsワークフローを構築する
「SageMaker」は、分類モデルトレーニングとStep Functionsワークフロー構築に大規模な実装作業が必要で、「最も少ない実装工数」という要件に反します。
D
Amazon Bedrock Guardrailsにトピックポリシーを設定し、単純クエリパターンを検出してモデルへのルーティングを制御する
「Guardrails」は、コンテンツフィルタリング・PIIマスキング・有害コンテンツ検出を目的とするサービスであり、クエリの複雑さに基づいたモデルルーティングには使用できません。

解説

Amazon Bedrock Intelligent Prompt Routingは、クエリの複雑さをルーターモデルが自動評価し、プライマリモデル(高性能・高コスト)とセカンダリモデル(低コスト)の間を動的にルーティングする機能です。アプリケーションから見ると単一のエンドポイントとして機能するため、既存の呼び出しコードをほぼ変更せずに導入でき、実装工数を最小化しながらコストとパフォーマンスのバランスを最適化できます。 選択肢Aの「キーワードマッチング」は、精度が低くエッジケース対応が困難であり、Intelligent Prompt Routingと比べて実装・保守コストが大幅に増加します。 選択肢Cの「SageMaker」は、分類モデルトレーニングとStep Functionsワークフロー構築に大規模な実装作業が必要で、「最も少ない実装工数」という要件に反します。 選択肢Dの「Guardrails」は、コンテンツフィルタリング・PIIマスキング・有害コンテンツ検出を目的とするサービスであり、クエリの複雑さに基づいたモデルルーティングには使用できません。

ドメイン別正答率・予想スコアでリアルタイムに実力把握

無限ノックでAIPを徹底対策。全問AI生成のオリジナル問題。

無料で演習を始める →
← AIP の問題一覧に戻る