ある企業がAmazon BedrockとRAG(Retrieval-Augmented Generation:外部の知識ベースを参照して回答精度を高める生成AI手法)を使った社内ナレッジベースQAシステムを構築しています。AIが社内文書に記載のない情報を「事実」として回答してしまうハルシネーション(根拠なく事実を捏造する現象)を防ぎたいと考えています。Amazon Bedrock Guardrailsのどの機能がこの課題に最も直接的に対処しますか?
Bedrock GuardrailsのGrounding(根拠確認)機能は、モデルの応答がソースドキュメントや参照コンテキストに基づいているかをスコアで評価し、閾値を下回る場合に応答をブロックします。RAGシステムでナレッジベース外の情報を事実として回答するハルシネーションを防止する最も直接的な手段です。 選択肢A(トピック拒否)は、あらかじめ定義した特定テーマへの言及を禁止する機能であり、回答内容の事実確認やハルシネーション検出は行いません。 選択肢C(コンテンツフィルタリング)は、暴力・ヘイトスピーチ・性的コンテンツなど有害表現を検出・排除する機能であり、ハルシネーション(根拠なき事実捏造)とは異なる問題を対象としています。 選択肢D(機密情報フィルタリング)は、氏名・メールアドレス・クレジットカード番号等の個人識別情報(PII)をマスキング・ブロックする機能であり、回答の根拠検証は行いません。