無限ノック › AIP 練習問題一覧 › 問題
AIPAIの安全性、セキュリティ、ガバナンス

ある企業が Amazon Bedrock の Knowledge Bases を使用した社内ナレッジ管理システムを RAG(検索拡張生成:Retrieval-Augmented Generation)アーキテクチャで構築しています。このシステムはドキュメントを検索してから回答を生成しますが、コンプライアンスチームは、検索されたドキュメントに基づかない回答(ハルシネーション)が生成されることを懸念しています。Amazon Bedrock Guardrails のどの機能を有効にすることで、ソースコンテキストに根拠を持たない応答を検出してブロックできますか?

A
コンテンツフィルターで VIOLENCE(暴力)と HATE(ヘイト)カテゴリのしきい値を HIGH に設定する
コンテンツフィルターは暴力やヘイトなど有害コンテンツの検出が目的で、ハルシネーション(根拠なし応答)検出には対応していません。
B
ナレッジベースにないトピックに関する応答をブロックするよう「拒否トピック(Denied Topics)」を設定する
拒否トピック機能は特定トピックへの応答をブロックするもので、ハルシネーション検出とは別の機能です。
C
コンテキストグラウンディングポリシー(Contextual Grounding Policy)を有効にし、ソースコンテキストに根拠を持たない応答を検出するしきい値を設定する
✓ 正解
コンテキストグラウンディングポリシーは、モデルの応答がソースコンテキストに基づいているかを評価し、根拠不十分な場合をブロックするため、ハルシネーション軽減に直接対応する最適な機能です。
D
不確実性を示す特定の用語をブロックするワードフィルターを設定する
ワードフィルターは単語レベルの制御であり、複雑なハルシネーション検出には対応できません。

解説

Bedrock Guardrails のコンテキストグラウンディングポリシー(グラウンディングチェック)は、モデルの応答が提供されたソースコンテキスト(検索されたドキュメント)に基づいているかを評価し、根拠が不十分な場合はブロックします。これがハルシネーション軽減に最も直接対応する機能です。 選択肢Aのコンテンツフィルターは暴力(VIOLENCE)やヘイト(HATE)など有害なコンテンツを検出・ブロックするための機能であり、応答がソースコンテキストに根拠を持つかどうかの評価には対応していません。 選択肢Bの拒否トピックは指定した特定のトピックに関する応答を拒否する機能であり、ハルシネーション(根拠のない応答)の検出・ブロックを目的としたものではありません。 選択肢Dのワードフィルターは特定の単語やフレーズを含む応答をブロックする機能であり、ソースコンテキストとの整合性(グラウンディング)を評価する機能ではありません。

ドメイン別正答率・予想スコアでリアルタイムに実力把握

無限ノックでAIPを徹底対策。全問AI生成のオリジナル問題。

無料で演習を始める →
← AIP の問題一覧に戻る