ある病院が AI 診断支援システムを導入し、AI が出力した診断推奨を医師が確認して最終判断を下す「ヒューマン・イン・ザ・ループ(Human-in-the-Loop:AI の意思決定プロセスに人間が介在する設計)」ワークフローを構築しました。6か月後の監査で、医師が AI の推奨通りに判断したケースが97%に上り、AI が誤った推奨を出した事例でも医師がほぼそのまま追認していることが判明しました。この状況が示す、責任ある AI(Responsible AI)の観点から特に注意すべき概念として最も適切なものはどれですか?
オートメーションバイアス(Automation Bias)とは、人間が自動化システムや AI の判断・推奨を過度に信頼し、自身による独立した批判的評価を怠る傾向です。ヒューマン・イン・ザ・ループの本来の目的は人間による有意義な監督(Meaningful Human Oversight)の維持ですが、オートメーションバイアスが生じると形式的な関与に過ぎなくなり、AI の誤りを見落とす責任ある AI 上の重大リスクとなります。 選択肢 A のハルシネーションは AI が事実に反する内容を生成する現象であり、今回のケース(医師が AI を追認するという人間側の行動傾向)とは異なる問題です。 選択肢 C のデータドリフトはモデルへの入力データ分布の統計的変化であり、人間の意思決定パターンの問題ではありません。 選択肢 D の確証バイアスは既存の信念に基づく情報取捨選択の認知的偏りを指しますが、「自動化システムへの過度の信頼」を具体的に表す「オートメーションバイアス」の方がこのシナリオに直接対応する概念です。