医療情報提供企業が Amazon Bedrock Knowledge Bases を使用した RAG(Retrieval-Augmented Generation:検索拡張生成)ベースの医療情報検索システムを運用しています。テスト中に、モデルが取得したドキュメントに記載のない医学的情報を生成するハルシネーション(幻覚)が発生するケースが判明しました。基盤モデル自体を変更せず、取得したコンテキストに基づかない応答を自動検出・ブロックする仕組みが必要です。どの設定が最も適切ですか?
Bedrock Guardrails のコンテキストグラウンディングチェックは、モデルの応答が提供されたグラウンディングソース(RAG で取得したドキュメント)に基づいているかを定量的に評価します。グラウンディングスコア(応答がソースに支持されているか)と関連性スコア(応答がクエリに関連しているか)の2つの閾値を設定でき、いずれかが閾値を下回った応答をブロックします。 選択肢AのBedrock Guardrails で「拒否トピック」を設定し、モデルが正確に回答できない医療トピックをリストアップして拒否する方法は、グラウンディング検証機能を持ちません。 選択肢BのBedrock Guardrails のコンテンツフィルターで有害コンテンツカテゴリの感度を HIGH に設定する方法は、グラウンディング検証機能を持ちません。 選択肢DのBedrock Guardrails の PII マスキングを有効化し、患者の個人情報が応答に漏洩しないようにする方法は、ハルシネーション抑制とは無関係です。