医療情報提供企業が、Amazon BedrockとKnowledge Basesを組み合わせたRAGシステムを構築しています。モデルが知識ベースに存在しない医療情報を「事実」として回答するハルシネーション(幻覚:AIが実際には存在しない情報を確信を持って生成する現象)を防ぐ必要があります。また、ユーザーの質問と無関係な情報が回答に含まれないようにすることも求められています。最も適切な対策はどれですか?
Bedrock GuardrailsのグラウンディングチェックはRAGシステムのハルシネーション防止に特化した組み込み機能。groundingThresholdは回答が提供コンテキストに根拠を持つかを評価し、relevanceThresholdは回答がクエリに関連しているかを評価する。 選択肢Aの コンテンツフィルター(有害コンテンツ向け)はハルシネーション防止には不適切です。 選択肢Cの 拒否トピック(医療関連の全回答をブロック)は業務要件を破壊します。 選択肢Dの Lambdaカスタム実装は複雑さが増し保守コストが高いです。