ローン審査AIモデルを本番環境で運用している金融機関が、コンプライアンス要件として各審査決定の根拠を顧客に説明できるようにする必要があります。「収入」「勤続年数」「信用スコア」などの各特徴量が個々の審査結果にどの程度影響

Question

ローン審査AIモデルを本番環境で運用している金融機関が、コンプライアンス要件として各審査決定の根拠を顧客に説明できるようにする必要があります。「収入」「勤続年数」「信用スコア」などの各特徴量が個々の審査結果にどの程度影響したかを定量的に示すには、Amazon SageMaker Clarifyのどの機能を使用すべきですか？

Accepted Answer

正解: SHAP値を用いた特徴量重要度分析（SHapley Additive exPlanations：ゲーム理論に基づき各特徴量の予測貢献度を算出する手法）。SHAP（SHapley Additive exPlanations）値はゲーム理論の概念を応用した手法で、各特徴量が個々の予測にどれだけ寄与したかを定量的に示します。SageMaker Clarifyはこれを使ってモデルの説明可能性（Explainability）を提供し、EU AI法や金融規制など説明責任が求められる場面に対応します。

選択肢Aの学習前バイアス分析（Pre-training bias analysis）はトレーニングデータセット内の統計的偏りを検出するものであり、個々の予測の説明根拠を提示する機能ではありません。

選択肢Cのデータドリフト検出（Data drift detection）は本番データの統計的分布変化を監視する機能であり、特定の審査決定がなぜその結果になったかの説明とは目的が異なります。

選択肢Dのモデル精度モニタリング（Model accuracy monitoring）は予測精度の経時変化を追跡する機能であり、個別の審査決定に対する特徴量ごとの貢献度を顧客に提示することはできません。

Answer

学習前バイアス分析（Pre-training bias analysis）：モデル学習前にトレーニングデータセットの統計的偏りや不均衡を定量的に検出する機能 — 学習前バイアス分析（Pre-training bias analysis）はトレーニングデータセット内の統計的偏りを検出するものであり、個々の予測の説明根拠を提示する機能ではありません。

Answer

データドリフト検出（Data drift detection）：本番環境での入力データの特徴量分布変化をリアルタイムで監視・検知する機能 — データドリフト検出（Data drift detection）は本番データの統計的分布変化を監視する機能であり、特定の審査決定がなぜその結果になったかの説明とは目的が異なります。

Answer

モデル精度モニタリング（Model accuracy monitoring）：デプロイ後のモデル予測精度の経時変化を継続的に追跡・評価する機能 — モデル精度モニタリング（Model accuracy monitoring）は予測精度の経時変化を追跡する機能であり、個別の審査決定に対する特徴量ごとの貢献度を顧客に提示することはできません。

解説

解説