医療情報を提供するチャットボットをAmazon Bedrockで構築している企業があります。テスト中に、モデルが実際には存在しない薬の名前や医学研究を、自信を持って正確であるかのように提示することがあると判明しました。この現象を正確に表す用語はどれですか?
ハルシネーション(幻覚)とは、LLMが実際には存在しない情報や事実と異なる内容を、自信を持って正確であるかのように生成する現象です。医療など高精度が求められる分野ではRAG(Retrieval-Augmented Generation: 外部知識を検索してモデルの回答に組み込む検索拡張生成)や出力検証による対策が特に重要です。 選択肢A:コンセプトドリフト はデータ分布の経時変化を指します。 選択肢B:オーバーフィッティング(過学習)は訓練データへの過度な適合を指します。 選択肢D:アンダーフィッティング(過小適合)はモデル表現力不足を指し、今回の症状とは異なります。