無限ノック › AIP 練習問題一覧 › 問題
AIPテスト、検証、トラブルシューティング

あるSaaS企業が Amazon Bedrock Knowledge Bases を用いたカスタマーサポート向け RAG チャットボットを運用しています。最近、もっともらしいが事実と異なる回答が散発的に発生しており、原因が「検索(リトリーバル)段階」にあるのか「生成段階」にあるのかを切り分けたいと考えています。正解回答付きの評価データセットを用い、RAGAS によるオフライン評価を実施します。検索段階で正解の根拠となるチャンクが取りこぼされていることを特定するのに最も適した指標はどれですか。

A
Context Recall(コンテキスト再現率)を測定し、取得されたコンテキストが正解回答に必要な情報をどれだけ網羅できているかを確認する
✓ 正解
Context Recall は正解回答に必要な情報が取得済みコンテキストにどれだけ含まれるかを測る検索段階の指標であり、関連チャンクの取りこぼしを直接定量化できるため切り分けに最適です。
B
Faithfulness(忠実性)を測定し、生成された回答が取得済みコンテキストにどれだけ忠実であるかを確認する
Faithfulness は生成回答が取得済みコンテキストに忠実か(捏造していないか)を測る生成段階の指標であり、検索段階でのチャンク取りこぼしを特定する目的には合致しません。
C
Answer Relevancy(回答関連性)を測定し、生成された回答が質問にどれだけ的確に答えているかを確認する
Answer Relevancy は回答が質問に的確に答えているかを測る生成・プロンプト段階の指標であり、検索で根拠が取れているかどうかという問題の切り分けには使えません。
D
Answer Semantic Similarity(回答意味的類似度)単独を測定し、生成回答と正解回答の意味的な近さを確認する
Answer Semantic Similarity 単独は最終回答と正解の意味的近さを示すのみで、低スコアの原因が検索と生成のどちらにあるかを分離できず、段階の切り分けには不十分です。

解説

RAGAS は RAG パイプラインを検索段階と生成段階に分けて評価できるフレームワークで、各指標がどの段階の品質を測るかを理解することが切り分けの鍵です。 Context Recall は、正解回答を構成するために必要な情報が「取得されたコンテキスト」にどれだけ含まれているかを測る指標で、まさに検索段階の取りこぼし(関連チャンクが取得できていない状態)を定量化します。Context Recall が低ければ、チャンキング戦略や埋め込みモデル、検索設定の見直しが必要だと判断できます。 選択肢Bの Faithfulness は、回答が取得済みコンテキストに忠実か(コンテキスト外の情報を捏造していないか)を測る生成段階の指標であり、検索の取りこぼしは特定できません。 選択肢Cの Answer Relevancy は回答が質問に的確に答えているかを測る生成・プロンプト段階の指標で、検索品質を切り分けられません。 選択肢Dの Answer Semantic Similarity 単独は最終回答と正解の意味的近さを示すだけで、低スコアの原因が検索と生成のどちらかを切り分けられません。

ドメイン別正答率・予想スコアでリアルタイムに実力把握

無限ノックでAIPを徹底対策。全問AI生成のオリジナル問題。

無料で演習を始める →
← AIP の問題一覧に戻る