無限ノック › AIP 練習問題一覧 › 問題
AIPテスト、検証、トラブルシューティング

ある医療情報サービス企業が、Amazon Bedrock Knowledge BasesとOpenSearch Serverlessを使ったRAGシステムを運用しています。ドキュメントのインデックス化は正常に完了していますが、医師ユーザーから「関連する診療ガイドラインが回答に含まれないことが多い」という報告が相次いでいます。エンジニアチームがRAGの検索精度を体系的に診断するための最も適切なアプローチはどれですか?

A
Bedrock Model Invocation Loggingを有効化してすべてのリクエストの入出力と推論レイテンシをCloudWatch Logsに記録し、Logs Insightsでクエリカテゴリ・文書タイプ別に低品質回答のパターンを分析して問題箇所を特定する
Model Invocation Loggingはエンドツーエンドの入出力を記録しますが、検索コンポーネントを独立して定量評価する手段がなく、Recall@KやNDCGなどの検索品質メトリクスを直接計算できないため、根本原因の特定精度が低くなります。
B
Knowledge BasesのRetrieve APIでモデルを介さずに取得チャンクのみを抽出し、ゴールデンデータセットとのRecall@K・NDCG照合に基づいてチャンクサイズ・オーバーラップ・取得件数を最適化する
✓ 正解
Retrieve APIで検索コンポーネントを生成から切り離してゴールデンデータセットと照合する手法は、RAGパイプラインのどの段階に問題があるかを客観的に特定できます。Recall@K・NDCGの定量測定に基づいてチャンク設定を調整する体系的なアプローチです。
C
ベクターストアをOpenSearch ServerlessからAurora pgvectorに移行し、HNSWインデックスのef_search・mパラメータを調整することで、ベクトル類似度検索の精度を向上させる
OpenSearch ServerlessからAurora pgvectorへの移行は大規模なインフラ変更で、根本原因がベクターストアのアルゴリズム差異にあると診断する前に実施すると無駄なコストとリスクが生じます。チャンクサイズや取得設定の問題である可能性の方が高いです。
D
RetrieveAndGenerate APIのNumberOfResultsを5から20に増加させ、より広い範囲のチャンクをLLMコンテキストウィンドウに含め、未検索だった関連診療ガイドラインが回答に含まれるよう改善する
NumberOfResultsを増やすと関連チャンクがコンテキストに含まれる可能性はありますが、評価なしの試行錯誤であり、ノイズ増加・コスト上昇・コンテキスト窓の圧迫を招きます。根拠のない調整では問題の本質は解決しません。

解説

RAGパイプラインのトラブルシューティングでは、検索(Retrieval)と生成(Generation)のコンポーネントを分離して評価することが重要です。 選択肢BはKnowledge BasesのRetrieve APIを使い、モデル呼び出しコストなしに純粋な検索品質だけをテストする正解のアプローチです。ゴールデンデータセット(クエリに対して期待されるチャンクを定義したデータセット)と照合してRecall@KやNDCGを算出することで、「何が検索されているか」を客観的かつ定量的に把握できます。測定結果に基づいてチャンクサイズ・オーバーラップ・NumberOfResultsを調整することが根拠のある改善につながります。 選択肢AのBedrock Model Invocation Loggingはエンドツーエンドの入出力を記録するオブザーバビリティツールで、全体像の把握には有用ですが、検索コンポーネントの精度をRecall@K・NDCGなどの指標で独立して定量評価する手段としては不十分です。 選択肢Cのベクターストア移行は大規模インフラ変更であり、根本原因がチャンキング戦略やクエリ設計にある可能性を診断せずに実施するのは誤ったアプローチです。 選択肢DのNumberOfResults増加は評価なしの試行錯誤であり、ノイズ増加・コスト上昇・コンテキスト窓の圧迫を招く可能性があります。

ドメイン別正答率・予想スコアでリアルタイムに実力把握

無限ノックでAIPを徹底対策。全問AI生成のオリジナル問題。

無料で演習を始める →
← AIP の問題一覧に戻る