ある人材サービス企業が Amazon SageMaker で採用候補者のスクリーニングモデルを本番運用しています。責任あるAIの観点から、学習データの偏りだけでなく「モデルが実際に出力した予測ラベルが性別グループ間で不均

Question

ある人材サービス企業が Amazon SageMaker で採用候補者のスクリーニングモデルを本番運用しています。責任あるAIの観点から、学習データの偏りだけでなく「モデルが実際に出力した予測ラベルが性別グループ間で不均衡になっていないか」を定量評価し、規制当局に提出したいと考えています。最も適切な方法はどれですか。

Accepted Answer

正解: SageMaker Clarify の学習後（ポストトレーニング）バイアスメトリクスで、予測陽性割合の差（DPPL）などを算出する。要件は「モデルが出力した予測ラベル」がグループ間で不均衡でないかの定量評価です。SageMaker Clarify の学習後バイアスメトリクスは、予測結果を対象に DPPL（予測陽性割合の差）や不均衡な誤分類率などを算出でき、本番モデルの予測の公平性をグループ間で比較・報告できます。

選択肢Bの学習前バイアスメトリクスは、モデルではなく学習データセット自体の偏りを測る指標で、予測結果は評価しない。
選択肢Cの Model Monitor データ品質モニタリングは、入力分布のドリフト検知が目的でバイアス定量化ではない。
選択肢Dの SHAP は予測の説明可能性（寄与度）を示すが、グループ間の予測割合の公平性は測定しない。

Answer

SageMaker Clarify の学習前（プレトレーニング）バイアスメトリクスで、クラス不均衡（CI）などデータの偏りを測定する — 学習前バイアスメトリクスは学習データセットの偏り（クラス不均衡など）を測る指標であり、モデルが実際に出力した予測ラベルの公平性は評価できないため要件に合わない。

Answer

SageMaker Model Monitor のデータ品質モニタリングで、入力特徴量の分布ドリフトを検知して評価する — データ品質モニタリングは入力特徴量の統計分布が学習時から変化したか（ドリフト）の検知が目的で、グループ間の予測割合の不均衡を定量化する機能ではないため不適切。

Answer

SageMaker Clarify の SHAP 値を用いて、個々の予測に対する各特徴量の寄与度を算出して評価する — SHAP 値は個々の予測に各特徴量がどれだけ寄与したかを示す説明可能性の手法であり、性別グループ間で予測割合が不均衡かどうかを測る指標ではないため要件を満たさない。

解説

解説