AIF生成AIの基礎
医療情報を提供するAIチャットボットが、薬の副作用について、実際には存在しない研究結果を引用しながら非常に自信を持って説明しています。このモデルの振る舞いを表す用語と、この問題を軽減するために最も有効な手法の組み合わせとして正しいものはどれですか？
Aオーバーフィッティング（過学習：訓練データへの過度な適合により汎化性能が低下する現象） ／ 正則化（Regularization）の適用
訓練データへの過度な適合により汎化性能が低下する現象で、正則化で対処します。存在しない情報を自信を持って生成するハルシネーションとは原因も対処法も全く異なります。
Bハルシネーション（Hallucination：モデルが事実に基づかない情報を確信を持って生成する現象） ／ RAGによるグラウンディング（Grounding：回答を検証可能な情報源に紐付ける手法）の導入
✓ 正解
LLMが事実に基づかない情報を確信を持って生成する現象がハルシネーションです。医療分野での誤情報は特に危険であり、RAGで回答を実際のドキュメントに紐付けることで効果的に軽減できます。
Cデータドリフト（Data Drift：本番データの分布が訓練時から乖離する現象） ／ モデルの定期的な再トレーニング
本番データの分布が訓練時から乖離するModel Driftの問題であり、再トレーニングで対処します。架空の研究を引用するという今回の問題はデータ分布の変化とは本質的に異なります。
Dバイアス（特定グループへの不公平な予測偏りが生じる現象） ／ SageMaker Clarifyによる公平性評価
特定グループへの不公平な予測偏りの問題であり、SageMaker Clarifyで評価・検出できます。ハルシネーションは情報の正確性に関する問題であり、予測の公平性を扱うバイアスとは異なる概念です。
解説
ハルシネーションとは、LLMが事実に基づかない情報を確信を持って生成する現象です。医療・法律など正確性が求められる分野では特に危険です。グラウンディングはモデルの回答を検証可能な情報源に紐付ける手法であり、RAGを活用することで回答を実際のドキュメントに基づかせてハルシネーションを軽減できます。
選択肢Aのオーバーフィッティングは学習データへの過度な適合であり正則化で対処しますが、存在しない情報を自信を持って生成する現象とは異なります。
選択肢CのデータドリフトはModel Driftとも呼ばれ、本番データの分布が訓練時から乖離する現象であり再トレーニングで対処しますが、事実でない研究の引用という問題とは別です。
選択肢Dのバイアスは特定グループへの不公平な予測偏りであり、ハルシネーションとは異なる概念です。
ドメイン別正答率・予想スコアでリアルタイムに実力把握
無限ノックでAIFを徹底対策。全問AI生成のオリジナル問題。
無料で演習を始める →