AIF責任あるAIのガイドライン
企業が採用支援AIシステムを導入したところ、過去の採用データに男性が多く含まれていたため、AIが男性の履歴書を不当に高く評価していることが判明しました。この現象を何と呼びますか?
Aハルシネーション (Hallucination)
ハルシネーション(Hallucination)とは、AIが事実と異なる情報や存在しない内容を、自信を持って正確であるかのように生成してしまう現象です。訓練データの偏りによって特定グループを不当に評価するバイアスの問題とは性質が異なります。
Bモデルのバイアス (Model Bias)
✓ 正解
AIモデルのバイアスは、訓練データに含まれる統計的偏りを学習した結果、特定の属性(性別・人種・年齢など)に対して不公平な予測を出力する問題です。設問では男性データが多い過去の採用実績がこの偏りを生んでいます。
Cデータプライバシー侵害 (Data Privacy Breach)
データプライバシー侵害は、個人情報や機密データが不正アクセス・設定ミス・内部脅威などにより意図せず外部へ漏洩・公開される事態を指します。訓練データの偏りによりAIが不公平な評価を出力するバイアスとは異なる問題です。
Dモデルのドリフト (Model Drift)
モデルドリフトは、モデル訓練後に現実世界のデータ分布が変化することで、モデルの予測精度が時間の経過とともに低下していく現象です。訓練データに含まれる偏りが原因で不公平な出力が生じるバイアスとは概念が異なります。
解説
正解はBのモデルのバイアス(Model Bias)です。AIモデルのバイアス(偏見)とは、トレーニングデータに含まれる偏り(この場合は過去の採用データにおける性別比の偏り)をモデルが学習した結果、特定の人種・性別・年齢などのグループに対して不公平な予測・判断を出力してしまう問題です。責任あるAI(Responsible AI)においてバイアスの検出と緩和は最重要課題の一つです。
選択肢AのハルシネーションはAIが事実と異なる内容を、あたかも正確であるかのように生成してしまう現象であり、偏ったデータによる不公平な評価とは性質が異なります。
選択肢Cのデータプライバシー侵害は、個人情報や機密情報が不正アクセスや設定ミスなどにより外部へ漏洩・公開される事態を指します。バイアスによる不公平な評価とは概念が異なります。
選択肢Dのモデルドリフトは、時間の経過とともに現実のデータ分布が変化し、モデルの予測精度が徐々に低下していく現象です。訓練データの偏りに起因した不公平な出力であるバイアスとは異なります。
ドメイン別正答率・予想スコアでリアルタイムに実力把握
無限ノックでAIFを徹底対策。全問AI生成のオリジナル問題。
無料で演習を始める →