AIFAIソリューションのセキュリティ、コンプライアンス、ガバナンス
プロンプトインジェクション攻撃への対策として最も適切なものはどれですか。
A入力内容を検証し、システムプロンプトや機密情報への不正な指示を制限する
✓ 正解
入力検証や権限制御、システムプロンプトの保護を組み合わせることで、不正な命令による情報漏えいや意図しない動作を防ぎやすくなります。
Bモデルのパラメータ数を増やして推論能力を高める
モデルの性能向上とプロンプトインジェクション対策は別の問題です。パラメータ数を増やしても攻撃耐性が保証されるわけではありません。
CGPUを追加して応答時間を短縮する
GPU追加は推論速度の改善には有効ですが、悪意ある入力を検知・防止するセキュリティ対策としては機能しません。
D学習データを増やして事前トレーニングをやり直す
事前トレーニングのやり直しは非常に高コストであり、プロンプトインジェクションを防ぐ直接的な対策でもありません。
解説
プロンプトインジェクションは、悪意ある入力によって本来のシステム指示を無視させたり、機密情報を取得させたりする攻撃です。そのため、入力検証やプロンプトの分離、機密情報へのアクセス制御、出力フィルタリングなどの防御策が重要になります。モデル規模の拡大やGPU追加では攻撃を防げません。また、事前トレーニングをやり直しても根本的な対策にはならず、アプリケーション側で多層的な防御を実施することが推奨されます。
ドメイン別正答率・予想スコアでリアルタイムに実力把握
無限ノックでAIFを徹底対策。全問AI生成のオリジナル問題。
無料で演習を始める →