AIF責任あるAIのガイドライン
責任あるAI（Responsible AI）の実践として、生成AIシステムをリリース前に「AIレッドチーミング（AI Red Teaming）」を実施することが推奨されています。生成AIシステムにおけるレッドチーミングの主な目的として最も適切なものはどれですか？
Aモデルのトレーニングコストと推論パフォーマンスのトレードオフを検証し、最適なモデルサイズを選定する
モデルサイズ選定はコスト最適化の取り組みであり、AIレッドチーミングで対象とする安全性・セキュリティテストとは異なる目的です。
B悪意のある入力・ジェイルブレイク（モデルの安全制約を意図的に回避するプロンプト手法）・有害コンテンツの生成誘導などを試み、システムの安全性と堅牢性の脆弱性を発見する
✓ 正解
AIレッドチーミングは攻撃者視点からジェイルブレイク・プロンプトインジェクション・有害コンテンツ生成などの脆弱性を意図的に探索し、リリース前に対策することで、生成AIシステムの安全性と堅牢性を確保します。
C本番環境でのモデル推論レイテンシとスループットをベンチマークテストによって測定する
推論パフォーマンスのベンチマーク計測はパフォーマンス最適化の取り組みであり、AIシステムの安全性評価とは別の目的です。
DA/Bテストを通じてユーザーインターフェースのバリエーションを比較し、ユーザーエクスペリエンスを最適化する
A/Bテストを通じたUI改善はユーザーエクスペリエンス向上が目的であり、AI安全性評価とは異なる概念です。
解説
AIレッドチーミングはサイバーセキュリティのレッドチーム演習をAIシステムに適用したアプローチで、専門家チームが攻撃者の視点から意図的にシステムの脆弱性を探索します。生成AIでは「ジェイルブレイク（安全制約の回避）」「プロンプトインジェクション（悪意ある指示の不正注入）」「差別的・有害なコンテンツの生成誘導」などの問題を発見し、リリース前に対策することが目的です。Amazon Bedrock では Guardrails などの機能と組み合わせて活用されます。モデルサイズ選定（A）はコスト最適化の取り組みであり、安全性テストとは異なります。推論パフォーマンス計測（C）はパフォーマンスベンチマークであり、責任あるAIの安全性評価とは別の目的です。A/Bテスト（D）はUX改善のための手法であり、AI安全性評価とは異なる概念です。
ドメイン別正答率・予想スコアでリアルタイムに実力把握
無限ノックでAIFを徹底対策。全問AI生成のオリジナル問題。
無料で演習を始める →