AIF責任あるAIのガイドライン
ある求人プラットフォームが、過去の採用実績データで学習した機械学習モデルを使って求職者に求人を推薦しています。特定の職種が特定の人口統計グループに優先表示される傾向があり、過去の雇用不均衡がさらに強化されることが懸念されています。この問題を責任あるAIの観点から最も適切に説明しているものはどれですか？
Aアンダーフィッティング（underfitting：過少適合）：モデルが訓練データのパターンを十分に学習できておらず、汎化性能も精度も低い状態
アンダーフィッティングは訓練データのパターンを十分学習できていない状態であり、モデル精度が全体的に低いことを指します。特定グループへの偏った推薦が過去の採用データによって増幅されている本シナリオとは異なります。
Bバイアスの増幅（Bias Amplification）：過去の不均衡パターンをモデルが学習し、推薦にも偏りが生じてフィードバックにより不均衡が拡大する現象
✓ 正解
バイアスの増幅とは、過去データに含まれる雇用不均衡をモデルが学習し推薦にも偏りが生じることで、その偏りがさらに拡大するフィードバックループ現象です。本シナリオはこの典型例で、SageMaker Clarify によるバイアス検出が有効です。
Cコールドスタート問題（Cold Start Problem）：新規ユーザーや新規アイテムの行動履歴がなく、適切な推薦を生成するのが困難になる問題
コールドスタート問題は新規ユーザーへの推薦に必要な行動履歴が存在しないことによる問題です。本シナリオでは既存の採用データが十分に存在し、そのデータに含まれる偏りが問題の原因であるため、コールドスタートとは異なります。
D概念ドリフト（Concept Drift）：モデル学習後にデータの統計的性質が変化し、当初は正確だったモデルの予測精度が徐々に低下する現象
概念ドリフトはデータの統計的性質や目的変数との関係が時間変化することでモデル精度が低下する現象です。本シナリオは過去の不均衡パターンが継続的に学習・強化されている状態であり、データ分布の時間変化による問題とは異なります。
解説
バイアスの増幅（Bias Amplification）とは、モデルが過去データに含まれる偏りを学習し、その偏りを持つ推薦を繰り返すことで不均衡がさらに拡大されるフィードバックループ現象です。責任あるAIにおける重大な問題であり、Amazon SageMaker ClarifyやModel Monitorを使った定期的なバイアスモニタリングと多様なトレーニングデータの確保が重要な対策となります。
選択肢Aのアンダーフィッティング（underfitting：過少適合）は、訓練データが不足してモデルの精度が低い状態であり、本シナリオのような特定グループへの偏った優先表示とは異なります。
選択肢Cのコールドスタート問題（Cold Start Problem）は、新規ユーザーへの推薦に必要な情報が不足している問題であり、既存の採用データによる偏りの拡大とは別の現象です。
選択肢Dの概念ドリフト（Concept Drift）はデータ分布が時間とともに変化しモデル精度が低下する現象を指し、過去の不均衡パターンが継続・強化される本シナリオとは異なります。
ドメイン別正答率・予想スコアでリアルタイムに実力把握
無限ノックでAIFを徹底対策。全問AI生成のオリジナル問題。
無料で演習を始める →