AIF責任あるAIのガイドライン
ある金融機関が住宅ローン申請の承認モデルを開発しました。規制当局から以下の要件を求められています。
・モデルが特定の人口統計グループに対して不公平な判断をしていないか検証すること
・個々の申請に対して判断根拠を説明できること
これらの要件を同時に満たすために最も適切なAWSサービスはどれですか？
AAmazon SageMaker Model Monitor
本番環境でのデータドリフトやモデルドリフトをリアルタイムに検出するモニタリングサービスです。モデルの性能劣化監視には適していますが、バイアス指標の算出や個々の予測に対するSHAP値による説明可能性の提供は主要機能ではありません。
BAmazon SageMaker Clarify
✓ 正解
バイアス検出と説明可能性を専門に提供するサービスです。差異インパクトなどのバイアス指標を算出し、SHAP値を用いて各特徴量の予測への寄与度を定量化することで、規制当局への公平性・透明性の説明に対応できます。
CAmazon SageMaker Debugger
モデルのトレーニング中における勾配消失・爆発などの数値的問題やボトルネックをリアルタイムに検出・分析するサービスです。トレーニングプロセスのデバッグに特化しており、バイアス検出や予測の説明可能性の提供は対象外です。
DAmazon SageMaker Autopilot
データを入力するだけで自動的にML候補モデルを生成・評価する自動ML（AutoML）サービスです。モデル構築の自動化には有用ですが、既存モデルのバイアス検出や個々の予測に対する説明可能性の提供を目的としたサービスではありません。
解説
Amazon SageMaker Clarifyは、MLモデルのバイアス検出と説明可能性を提供する専用サービスです。トレーニング前後のバイアス指標（差異インパクト、クラス不均衡など）を計算し、SHAP（SHapley Additive exPlanations：ゲーム理論に由来する特徴量寄与度の算出手法）値を用いて個々の予測に対する各特徴量の影響度を定量化できます。
選択肢AのAmazon SageMaker Model Monitor はデータ・モデルドリフトの検出が主な用途であり、バイアス検出と説明可能性の両立には対応していません。
選択肢CのAmazon SageMaker Debugger はトレーニング中の数値問題検出が主な用途であり、バイアス検出と説明可能性の両立には対応していません。
選択肢DのAmazon SageMaker Autopilot は自動ML（AutoML）が主な用途であり、バイアス検出と説明可能性の両立には対応していません。
ドメイン別正答率・予想スコアでリアルタイムに実力把握
無限ノックでAIFを徹底対策。全問AI生成のオリジナル問題。
無料で演習を始める →