無限ノック › AIP 練習問題一覧 › 問題
AIPテスト、検証、トラブルシューティング

ある通信企業がAmazon Bedrock Knowledge BasesとClaude 3 Sonnetを使った社内技術サポートQAシステムを開発しています。本番リリース前に以下の2点を定量的に評価する必要があります。 ・「生成された回答がソース文書に忠実か(Faithfulness)」 ・「検索されたドキュメントがクエリと関連しているか(Retrieval Precision)」 評価データセット5,000件に対してコスト効率よく自動評価を実施する方法として最も適切なものはどれですか?

A
Amazon SageMaker Ground Truthに専門家チームを登録してFaithfulnessとRetrieval Precisionの評価ルーブリックを作成し、5,000件を手動スコアリングするアノテーションワークフローを構築する
SageMaker Ground Truthによる人間評価はゴールドスタンダードですが、5,000件を専門家が手動スコアリングするコスト・時間・スケーラビリティの問題があり、コスト効率よく自動評価を実施するという要件を満たしません。
B
Amazon Bedrock Model Evaluationジョブを作成してLLM-as-a-judge評価タイプを選択し、FaithfulnessとRetrieval Precisionなどのナレッジベース固有の品質指標を評価モデルで自動スコアリングする
✓ 正解
Bedrock Model EvaluationのLLM-as-a-judge機能はFaithfulness・Retrieval PrecisionなどのRAG固有評価指標をサポートしており、マネージドサービスとして5,000件の評価ジョブを追加インフラなしで実行でき、コスト効率と自動化の両要件を満たします。
C
PythonスクリプトでROUGE-LとBERTScoreを計算してFaithfulnessの代替指標とし、TF-IDFコサイン類似度でRetrieval Precisionを近似してLambdaで全件バッチ処理する
ROUGE-LとBERTScoreは参照テキストとの表層的な類似度を測定する指標であり、事実的な整合性を問うFaithfulnessの正確な代替にはなりません。またTF-IDFコサイン類似度はRetrieval Precisionの精度な代理指標にならず、カスタム実装は保守コストも増加します。
D
評価専用にClaude Haikuをファインチューニングして評価スコアを出力させ、Bedrock Batch Inferenceを使って5,000件のFaithfulnessとRetrieval Precisionスコアを一括算出する
評価タスクのためにモデルをファインチューニングすることは訓練コストと時間が過大です。Bedrock Model EvaluationがLLM-as-a-judgeによるRAG評価をマネージドで提供しているため、専用モデルを一から訓練する必要はありません。

解説

Amazon Bedrock Model Evaluationは、RAGパイプラインの品質を定量的に評価するためのマネージドサービスです。LLM-as-a-judge評価タイプを使用すると、指定したジャッジモデル(例:Claude)が各レスポンスについてFaithfulness(生成テキストがソース文書に根拠を持つか)やRetrieval Precision(検索チャンクがクエリと関連するか)などのナレッジベース固有の指標を自動スコアリングします。評価ジョブはマネージドインフラ上で実行されるため、5,000件規模でも追加インフラの管理なしにコスト効率よく実施でき、結果はS3とコンソールで確認できます。 選択肢AのSageMaker Ground Truthによる人間評価は品質は高いものの、5,000件を専門家チームが手動採点するコストと時間は自動評価と比較して著しく大きく、コスト効率の要件を満たしません。 選択肢CのROUGE-L・BERTScoreはテキストの表層的な類似度を測定する指標であり、Faithfulnessのような事実的な整合性やRetrieval Precisionのような意味論的な関連性を正確に評価することはできません。 選択肢Dの評価専用ファインチューニングは、評価モデルの訓練コストと期間が膨大であり、同等機能をマネージドで提供するBedrock Model Evaluationと比較して非効率です。

ドメイン別正答率・予想スコアでリアルタイムに実力把握

無限ノックでAIPを徹底対策。全問AI生成のオリジナル問題。

無料で演習を始める →
← AIP の問題一覧に戻る