AIF責任あるAIのガイドライン

ある企業がAmazon BedrockとRAG(Retrieval-Augmented Generation:外部の知識ベースを参照して回答精度を高める生成AI手法)を使った社内ナレッジベースQAシステムを構築しています。AIが社内文書に記載のない情報を「事実」として回答してしまうハルシネーション(根拠なく事実を捏造する現象)を防ぎたいと考えています。Amazon Bedrock Guardrailsのどの機能がこの課題に最も直接的に対処しますか?

A
トピック拒否(Denied Topics)
(トピック拒否): 特定テーマの議論禁止が主な用途です。
B
根拠確認(Grounding)
✓ 正解
Bedrock GuardrailsのGrounding(根拠確認)機能は、モデルの応答がソースドキュメントや参照コンテキストに基づいているかを検証し、ハルシネーションを検出・ブロックします。RAGシステムで特に重要です。
C
コンテンツフィルタリング(Content Filters)
(コンテンツフィルタリング): 暴力・ヘイト等の有害コンテンツ排除が主な用途です。
D
機密情報フィルタリング(Sensitive Information Filters)
(機密情報フィルタリング): 個人識別情報(PII)の保護が主な用途です。

解説

Bedrock GuardrailsのGrounding(根拠確認)機能は、モデルの応答がソースドキュメントや参照コンテキストに基づいているかをスコアで評価し、閾値を下回る場合に応答をブロックします。RAGシステムでナレッジベース外の情報を事実として回答するハルシネーションを防止する最も直接的な手段です。 選択肢A(トピック拒否)は、あらかじめ定義した特定テーマへの言及を禁止する機能であり、回答内容の事実確認やハルシネーション検出は行いません。 選択肢C(コンテンツフィルタリング)は、暴力・ヘイトスピーチ・性的コンテンツなど有害表現を検出・排除する機能であり、ハルシネーション(根拠なき事実捏造)とは異なる問題を対象としています。 選択肢D(機密情報フィルタリング)は、氏名・メールアドレス・クレジットカード番号等の個人識別情報(PII)をマスキング・ブロックする機能であり、回答の根拠検証は行いません。

ドメイン別正答率・予想スコアでリアルタイムに実力把握

無限ノックでAIFを徹底対策。全問AI生成のオリジナル問題。

無料で演習を始める →
AIF の問題一覧に戻る