AIPAIの安全性、セキュリティ、ガバナンス
金融機関が投資商品に関する顧客の質問に答えるAmazon Bedrock Knowledge BasesベースのRAGチャットボットを運用しています。コンプライアンス部門の調査により、モデルが取得したドキュメントに記載されていない投資アドバイスを生成するケース（幻覚：ハルシネーション）が確認され、金融規制上のリスクとなっています。システムの正当な投資商品説明機能を維持しながら、取得コンテキストに根拠のない応答のみを体系的に検出・ブロックするには、Bedrock Guardrailsのどの機能を使用すべきですか？
Aコンテンツフィルター（Hate・Insults・Violence・Sexual等の有害カテゴリ別フィルター）のフィルタリング強度を最高レベルに設定して有害コンテンツを広くブロックする
コンテンツフィルター（Hate、Sexual等）は有害コンテンツ検出向けであり、ハルシネーション検出を目的とした機能ではありません。
B拒否トピックポリシー（Denied Topics）に「投資アドバイス」「銘柄推奨」などのトピックを自然言語で定義してすべての投資関連応答をブロックするよう設定する
拒否トピックポリシーは正当な投資商品説明もブロックしてしまいます。
Cコンテキストグラウンディングチェック（Contextual Grounding Check）を有効化し、グラウンディングスコアのしきい値を設定して取得コンテキストに根拠のない応答をブロックする
✓ 正解
Contextual Grounding Check（コンテキストグラウンディングチェック）はRAG応答が取得コンテキストの内容によって裏付けられているかを0〜1のスコアで定量評価します。設定したしきい値を下回る応答（ハルシネーション）をブロックし、しきい値以上の根拠ある回答は通過させるため正当な機能を損ないません。
D機密情報フィルター（PIIや正規表現パターンによる検出機能）を使用して取得コンテキストに存在しない金融商品名や証券コードをマスキングする
機密情報フィルターはRAGにおける幻覚の検出を目的とした機能ではありません。
解説
Contextual Grounding Check（コンテキストグラウンディングチェック）はRAG応答が取得コンテキストの内容によって裏付けられているかを0〜1のスコアで定量評価します。設定したしきい値を下回る応答（ハルシネーション）をブロックし、しきい値以上の根拠ある回答は通過させるため正当な機能を損ないません。
選択肢A のコンテンツフィルター（Hate、Sexual等）は有害コンテンツ検出向けであり、ハルシネーション検出を目的とした機能ではありません。
選択肢B の拒否トピックポリシーは正当な投資商品説明もブロックしてしまいます。
選択肢D の機密情報フィルターはRAGにおける幻覚の検出を目的とした機能ではありません。
ドメイン別正答率・予想スコアでリアルタイムに実力把握
無限ノックでAIPを徹底対策。全問AI生成のオリジナル問題。
無料で演習を始める →