AIFAIソリューションのセキュリティ、コンプライアンス、ガバナンス
生成AIアプリケーションでプロンプトインジェクション対策として最も適切なものはどれですか。
Aユーザー入力を検証し、システムプロンプトと分離して扱う
✓ 正解
入力検証やシステムプロンプトの保護は、生成AIアプリケーションで推奨される代表的なセキュリティ対策です。
Bモデルのパラメータ数を増やす
モデルを大きくしても悪意ある入力への耐性が保証されるわけではありません。
CGPU性能を向上させる
GPU性能は推論速度に影響しますが、プロンプトインジェクションの防止とは関係ありません。
D学習データ量を増やして再学習する
再学習だけでは攻撃を防ぐことはできず、アプリケーション側の防御も必要です。
解説
プロンプトインジェクションは悪意ある入力によってシステム指示を変更させようとする攻撃です。そのため、ユーザー入力の検証やシステムプロンプトとの分離、アクセス制御などを組み合わせることが重要です。モデル規模やGPU性能を向上させても攻撃を防げるわけではありません。また、学習データを増やすことも直接的な対策にはなりません。
ドメイン別正答率・予想スコアでリアルタイムに実力把握
無限ノックでAIFを徹底対策。全問AI生成のオリジナル問題。
無料で演習を始める →