医療機関がAmazon Bedrock Knowledge Basesを使用したRAGシステムで患者の医療質問に回答しています。コンプライアンスチームは「AIが取得した医療ドキュメントに根拠のない回答(ハルシネーション)を生成した場合、その回答を患者に表示してはならない」という要件を定めました。最小の実装コストでこの要件を満たす最適な方法はどれですか?
Bedrock GuardrailsのGrounding Check(接地確認)はRAGシステム向けのハルシネーション検出機能で、モデルの回答が取得ソース文書に基づいているかをリアルタイムで評価します。しきい値(0〜1)を設定することで根拠のない回答を自動ブロックできます。 Aのtemperatureを0にしても、訓練データに基づくハルシネーションは防げません。 CのROUGE-L(文字列重複度で測るメトリクス)は意味的なハルシネーション検出には不十分です。 DのComprehendは医療エンティティ認識には有用ですが、ハルシネーション検出には設計されていません。