あるSaaS企業が Amazon Bedrock Knowledge Bases を用いたカスタマーサポート向け RAG チャットボットを運用しています。最近、もっともらしいが事実と異なる回答が散発的に発生しており、原因が「検索(リトリーバル)段階」にあるのか「生成段階」にあるのかを切り分けたいと考えています。正解回答付きの評価データセットを用い、RAGAS によるオフライン評価を実施します。検索段階で正解の根拠となるチャンクが取りこぼされていることを特定するのに最も適した指標はどれですか。
RAGAS は RAG パイプラインを検索段階と生成段階に分けて評価できるフレームワークで、各指標がどの段階の品質を測るかを理解することが切り分けの鍵です。 Context Recall は、正解回答を構成するために必要な情報が「取得されたコンテキスト」にどれだけ含まれているかを測る指標で、まさに検索段階の取りこぼし(関連チャンクが取得できていない状態)を定量化します。Context Recall が低ければ、チャンキング戦略や埋め込みモデル、検索設定の見直しが必要だと判断できます。 選択肢Bの Faithfulness は、回答が取得済みコンテキストに忠実か(コンテキスト外の情報を捏造していないか)を測る生成段階の指標であり、検索の取りこぼしは特定できません。 選択肢Cの Answer Relevancy は回答が質問に的確に答えているかを測る生成・プロンプト段階の指標で、検索品質を切り分けられません。 選択肢Dの Answer Semantic Similarity 単独は最終回答と正解の意味的近さを示すだけで、低スコアの原因が検索と生成のどちらかを切り分けられません。