ある企業が過去10年間の採用実績データを使ってAI採用スクリーニングシステムを構築しました。しかし、過去の採用活動では特定の性別の候補者が不当に低い採用率であったため、AIも同様のパターンを学習し、特定の性別に対して不公平な評価を下すようになりました。この問題の根本原因となるバイアスの種類はどれですか?
歴史的バイアス(Historical Bias)は、過去の社会的不公平や差別的慣行がトレーニングデータに反映され、モデルがその偏りを学習・再現してしまう問題です。採用実績データに過去の差別的慣行が含まれていたため、AIが同様のパターンを習得しています。 選択肢Aの測定バイアス(Measurement Bias)はデータ収集・測定方法の不正確さによって生じます。今回の問題はデータ測定の精度ではなく過去の差別慣行そのものに起因するため、このバイアス種別には該当しません。 選択肢Bの歴史的バイアス(Historical Bias)は本問の正解です。過去10年間の採用活動で特定の性別が不当に低い採用率となったデータを学習したため、AIが同様のバイアスを再現しています。Amazon SageMaker Clarifyでこのようなバイアスを定量的に検出・分析できます。 選択肢Cの選択バイアス(Selection Bias)はサンプリングの偏りによって生じます。特定グループが過小または過大に代表される場合に発生しますが、今回の主因はサンプリング手法ではなく過去の差別的慣行そのものです。 選択肢Dの集計バイアス(Aggregation Bias)は異なるグループのデータを不適切に集約することで生じます。今回のシナリオはデータの集約方法ではなく、学習データ自体に内包された歴史的偏りが原因です。