AIF責任あるAIのガイドライン
企業がAmazon Bedrockを使用してRAG（Retrieval-Augmented Generation：検索拡張生成）ベースのカスタマーサポートチャットボットを構築しています。モデルが取得したドキュメントに基づかない事実無根の回答（ハルシネーション）を生成するケースが発生しており、これを自動的に検出・制御したいと考えています。Amazon Bedrock Guardrailsのどの機能を使用すべきですか？
A禁止トピック（Denied topics）：あらかじめ定義したテーマに関する回答を拒否する機能
禁止トピックは特定テーマの回答制限であり、ハルシネーション制御とは異なります。
Bコンテンツフィルター（Content filters）：暴力・ヘイトスピーチ等の有害コンテンツを検出・ブロックする機能
コンテンツフィルターは倫理的有害コンテンツへの対応であり、ハルシネーション制御とは異なります。
C根拠性チェック（Grounding check）：回答がソースドキュメントに根拠を持つかを検証する機能
✓ 正解
Bedrock Guardrailsの根拠性チェック（Grounding check）は、RAGシステムでモデルの回答が取得されたコンテキストドキュメントに基づいているかを評価し、ハルシネーションを検出・制御します。根拠スコアの閾値を設定することで、ソースドキュメントに裏付けられていない回答を自動的にブロックできます。
D機密情報の削除（Sensitive information redaction）：PII等の個人情報を検出・マスクする機能
機密情報の削除は PII などの機密データを検出・マスクする機能であり、回答がソースドキュメントに根拠を持つかどうかの検証とは目的が根本的に異なります。
解説
Bedrock Guardrailsの根拠性チェック（Grounding check）は、RAGシステムでモデルの回答が取得されたコンテキストドキュメントに基づいているかを評価し、ハルシネーションを検出・制御します。根拠スコアの閾値を設定することで、ソースドキュメントに裏付けられていない回答を自動的にブロックできます。
選択肢Aの禁止トピックは特定テーマの回答制限であり、ハルシネーション制御とは異なります。
選択肢Bのコンテンツフィルターは倫理的有害コンテンツへの対応であり、ハルシネーション制御とは異なります。
選択肢Dの機密情報の削除は PII などの機密データを検出・マスクする機能であり、回答がソースドキュメントに根拠を持つかどうかの検証とは目的が根本的に異なります。
ドメイン別正答率・予想スコアでリアルタイムに実力把握
無限ノックでAIFを徹底対策。全問AI生成のオリジナル問題。
無料で演習を始める →