無限ノック › AIP 練習問題一覧 › 問題
AIPAIの安全性、セキュリティ、ガバナンス

医療情報提供企業が Amazon Bedrock Knowledge Bases を使用した RAG(Retrieval-Augmented Generation:検索拡張生成)ベースの医療情報検索システムを運用しています。テスト中に、モデルが取得したドキュメントに記載のない医学的情報を生成するハルシネーション(幻覚)が発生するケースが判明しました。基盤モデル自体を変更せず、取得したコンテキストに基づかない応答を自動検出・ブロックする仕組みが必要です。どの設定が最も適切ですか?

A
Bedrock Guardrails で「拒否トピック」を設定し、モデルが正確に回答できない医療トピックをリストアップして拒否する。
Bedrock Guardrails で「拒否トピック」を設定し、モデルが正確に回答できない医療トピックをリストアップして拒否する方法は、グラウンディング検証機能を持ちません。
B
Bedrock Guardrails のコンテンツフィルターで有害コンテンツカテゴリの感度を HIGH に設定し、医学的に不正確な記述を検出する。
Bedrock Guardrails のコンテンツフィルターで有害コンテンツカテゴリの感度を HIGH に設定する方法は、グラウンディング検証機能を持ちません。
C
Bedrock Guardrails の「コンテキストグラウンディングチェック」を有効化し、グラウンディングスコアと関連性スコアの閾値を設定して、Knowledge Bases の RetrieveAndGenerate API に適用する。
✓ 正解
Bedrock Guardrails のコンテキストグラウンディングチェックは、モデルの応答が提供されたグラウンディングソース(RAG で取得したドキュメント)に基づいているかを定量的に評価します。グラウンディングスコア(応答がソースに支持されているか)と関連性スコア(応答がクエリに関連しているか)の2つの閾値を設定でき、いずれかが閾値を下回った応答をブロックします。
D
Bedrock Guardrails の PII マスキングを有効化し、患者の個人情報が応答に漏洩しないようにすることでハルシネーションを抑制する。
Bedrock Guardrails の PII マスキングを有効化し、患者の個人情報が応答に漏洩しないようにする方法は、ハルシネーション抑制とは無関係です。

解説

Bedrock Guardrails のコンテキストグラウンディングチェックは、モデルの応答が提供されたグラウンディングソース(RAG で取得したドキュメント)に基づいているかを定量的に評価します。グラウンディングスコア(応答がソースに支持されているか)と関連性スコア(応答がクエリに関連しているか)の2つの閾値を設定でき、いずれかが閾値を下回った応答をブロックします。 選択肢AのBedrock Guardrails で「拒否トピック」を設定し、モデルが正確に回答できない医療トピックをリストアップして拒否する方法は、グラウンディング検証機能を持ちません。 選択肢BのBedrock Guardrails のコンテンツフィルターで有害コンテンツカテゴリの感度を HIGH に設定する方法は、グラウンディング検証機能を持ちません。 選択肢DのBedrock Guardrails の PII マスキングを有効化し、患者の個人情報が応答に漏洩しないようにする方法は、ハルシネーション抑制とは無関係です。

ドメイン別正答率・予想スコアでリアルタイムに実力把握

無限ノックでAIPを徹底対策。全問AI生成のオリジナル問題。

無料で演習を始める →
← AIP の問題一覧に戻る