医療スタートアップが、患者の検査値から重篤疾患のリスクを予測するAIシステムを開発しています。 このシステムは精度95%を達成していますが、チームは責任あるAI(Responsible AI)の観点から人間の監視体制(Human Oversight)を設計する必要があります。 以下のうち、責任あるAIの原則に最も沿った設計はどれですか?
責任あるAIの「Human Oversight(人間による監視)」原則では、特に医療・法律・金融などの高リスク領域においてAIを意思決定支援ツールとして位置づけ、最終判断権を人間が保持することが必須です。精度が高くても人間監視を省略することはアカウンタビリティ(説明責任)の欠如につながります。また説明可能性情報の非公開は透明性原則に反します。信頼スコア100%は実際には存在せず非現実的であり、システムが機能不全になります。AWSの責任あるAIフレームワークでもHuman Oversightは中核原則の一つとして明示されています。 選択肢Aの精度が95%を超えているシステムは、コスト削減を目的に医師のレビューを省略してはいけません。 選択肢Cのプライバシー保護を最優先としての説明可能性非公開は、透明性原則に反します。 選択肢Dの予測信頼スコア100%での出力制限は、非現実的であり、システムが機能不全になります。