AIF生成AIの基礎

医療情報を提供するチャットボットをAmazon Bedrockで構築している企業があります。テスト中に、モデルが実際には存在しない薬の名前や医学研究を、自信を持って正確であるかのように提示することがあると判明しました。この現象を正確に表す用語はどれですか?

A
コンセプトドリフト — 入力データの分布が時間とともに変化し、モデル精度が低下する現象
コンセプトドリフト はデータ分布の経時変化を指します。
B
オーバーフィッティング(過学習) — モデルが学習データに過度に適合し、未知データへの汎化性能が低下する現象
オーバーフィッティング(過学習)は訓練データへの過度な適合を指します。
C
ハルシネーション(幻覚) — モデルが事実に基づかない情報を、あたかも正確であるかのように自信を持って生成する現象
✓ 正解
ハルシネーション(幻覚)とは、LLMが実際には存在しない情報や事実と異なる内容を、自信を持って正確であるかのように生成する現象です。医療など高精度が求められる分野ではRAG(Retrieval-Augmented Generation: 外部知識を検索してモデルの回答に組み込む検索拡張生成)や出力検証による対策が特に重要です。
D
アンダーフィッティング(過小適合) — モデルが学習データの複雑なパターンを十分に学習できていない状態
アンダーフィッティング(過小適合)はモデル表現力不足を指し、今回の症状とは異なります。

解説

ハルシネーション(幻覚)とは、LLMが実際には存在しない情報や事実と異なる内容を、自信を持って正確であるかのように生成する現象です。医療など高精度が求められる分野ではRAG(Retrieval-Augmented Generation: 外部知識を検索してモデルの回答に組み込む検索拡張生成)や出力検証による対策が特に重要です。 選択肢A:コンセプトドリフト はデータ分布の経時変化を指します。 選択肢B:オーバーフィッティング(過学習)は訓練データへの過度な適合を指します。 選択肢D:アンダーフィッティング(過小適合)はモデル表現力不足を指し、今回の症状とは異なります。

ドメイン別正答率・予想スコアでリアルタイムに実力把握

無限ノックでAIFを徹底対策。全問AI生成のオリジナル問題。

無料で演習を始める →
AIF の問題一覧に戻る