無限ノック › AIF 練習問題一覧 › 問題
AIF責任あるAIのガイドライン

ある企業が画像認識AIで製品の品質チェックを行っています。セキュリティ調査により、人間には知覚できないほどわずかなノイズを画像に加えることでAIシステムを意図的に誤判定させる攻撃手法の存在が判明しました。この攻撃手法の名称と、責任あるAIにおいてこれに対処するための主要原則の組み合わせとして正しいものはどれですか?

A
データポイズニング(Data Poisoning)攻撃 ― 安全性(Safety)の確保
データポイズニングはトレーニングデータへの改ざん攻撃です。
B
敵対的サンプル(Adversarial Examples)攻撃 ― ロバスト性(Robustness)の確保
✓ 正解
敵対的サンプル(Adversarial Examples)攻撃 ― ロバスト性(Robustness)の確保。 敵対的サンプル(Adversarial Examples)とは、人間には認識できない微小なノイズを入力データに加えることで機械学習モデルを意図的に誤分類させる攻撃です。責任あるAIでは、このような攻撃に対するロバスト性(Robustness)の確保が重要な原則です。
C
モデル反転(Model Inversion)攻撃 ― プライバシー(Privacy)の確保
モデル反転はモデルからトレーニングデータを復元する攻撃です。
D
メンバーシップ推論(Membership Inference)攻撃 ― 公平性(Fairness)の確保
メンバーシップ推論は特定データがトレーニングに使われたかを判別する攻撃であり、それぞれ異なる脅威・原則に対応します。

解説

敵対的サンプル(Adversarial Examples)とは、人間には認識できない微小なノイズを入力データに加えることで機械学習モデルを意図的に誤分類させる攻撃です。責任あるAIでは、このような攻撃に対するロバスト性(Robustness)の確保が重要な原則です。 選択肢Aのデータポイズニングは、トレーニングデータそのものを汚染・改ざんすることでモデルの学習結果を歪める攻撃であり、敵対的サンプル攻撃とは異なる脅威に対応します。 選択肢Bが正しい組み合わせです。人間に知覚できない微小なノイズで誤判定を引き起こす攻撃が敵対的サンプル攻撃であり、こうした摂動に対して予測が崩れないロバスト性の確保が対応原則です。 選択肢Cのモデル反転(Model Inversion)攻撃は、モデルへの問い合わせを通じてトレーニングデータを復元しようとする攻撃であり、プライバシー(Privacy)の確保が対応原則です。 選択肢Dのメンバーシップ推論(Membership Inference)攻撃は、特定のデータがトレーニングに使用されたかどうかを推測する攻撃であり、公平性(Fairness)ではなくプライバシーの観点で対処します。

ドメイン別正答率・予想スコアでリアルタイムに実力把握

無限ノックでAIFを徹底対策。全問AI生成のオリジナル問題。

無料で演習を始める →
← AIF の問題一覧に戻る