無限ノック › AIF 練習問題一覧 › 問題
AIF責任あるAIのガイドライン

医療スタートアップが、患者の検査値から重篤疾患のリスクを予測するAIシステムを開発しています。 このシステムは精度95%を達成していますが、チームは責任あるAI(Responsible AI)の観点から人間の監視体制(Human Oversight)を設計する必要があります。 以下のうち、責任あるAIの原則に最も沿った設計はどれですか?

A
AIの精度が95%を超えているため、コスト削減を目的に医師のレビューを省略し、AIが直接患者へ通知する自動化ワークフローを採用する
精度が95%を超えているシステムは、コスト削減を目的に医師のレビューを省略してはいけません。
B
AIは高リスク患者の候補リストと予測根拠を生成し、最終的な診断判断および患者への通知は必ず医師が行うワークフローを設計する
✓ 正解
責任あるAIの「Human Oversight(人間による監視)」原則では、特に医療・法律・金融などの高リスク領域においてAIを意思決定支援ツールとして位置づけ、最終判断権を人間が保持することが必須です。精度が高くても人間監視を省略することはアカウンタビリティ(説明責任)の欠如につながります。また説明可能性情報の非公開は透明性原則に反します。信頼スコア100%は実際には存在せず非現実的であり、システムが機能不全になります。AWSの責任あるAIフレームワークでもHuman Oversightは中核原則の一つとして明示されています。
C
患者のプライバシー保護を最優先とし、AIの予測根拠(説明可能性情報)を医師にも非公開にして意思決定の透明性を意図的に排除する
プライバシー保護を最優先としての説明可能性非公開は、透明性原則に反します。
D
AIの誤判定リスクを完全に排除するため、予測信頼スコアが100%の場合のみ結果を出力し、それ以外は一切応答しない設計にする
予測信頼スコア100%での出力制限は、非現実的であり、システムが機能不全になります。

解説

責任あるAIの「Human Oversight(人間による監視)」原則では、特に医療・法律・金融などの高リスク領域においてAIを意思決定支援ツールとして位置づけ、最終判断権を人間が保持することが必須です。精度が高くても人間監視を省略することはアカウンタビリティ(説明責任)の欠如につながります。また説明可能性情報の非公開は透明性原則に反します。信頼スコア100%は実際には存在せず非現実的であり、システムが機能不全になります。AWSの責任あるAIフレームワークでもHuman Oversightは中核原則の一つとして明示されています。 選択肢Aの精度が95%を超えているシステムは、コスト削減を目的に医師のレビューを省略してはいけません。 選択肢Cのプライバシー保護を最優先としての説明可能性非公開は、透明性原則に反します。 選択肢Dの予測信頼スコア100%での出力制限は、非現実的であり、システムが機能不全になります。

ドメイン別正答率・予想スコアでリアルタイムに実力把握

無限ノックでAIFを徹底対策。全問AI生成のオリジナル問題。

無料で演習を始める →
← AIF の問題一覧に戻る