AIFAIソリューションのセキュリティ、コンプライアンス、ガバナンス
ある企業がAmazon Bedrockで顧客対応の生成AIアプリを運用しています。ユーザーが不適切な暴力的・性的なコンテンツを生成させようとしたり、競合他社や投資助言など特定の禁止トピックについて回答させようとする入力をブロックしたいと考えています。最小の開発工数で実現する方法はどれですか。
AGuardrails for Amazon Bedrockで拒否トピックとコンテンツフィルターを設定し、入出力を検査する
✓ 正解
Guardrails for Amazon Bedrockはコンテンツフィルターや拒否トピック、単語フィルターをノーコードで設定し入出力双方を検査してブロックできるため、最小の開発工数で不適切コンテンツと禁止トピックを制御する要件に最適である。
Bアプリケーション側で正規表現による単語フィルターを自前実装し、すべての入出力を手動で判定する
正規表現による自前フィルターは実装と保守の工数が大きく、言い換えや文脈を含む有害表現を網羅的に検知するのが困難なため、最小工数という条件に反する。
C基盤モデルをファインチューニングして不適切な回答を生成しないよう再学習させる
ファインチューニングは大量の学習データと計算コスト、運用工数を要し、禁止トピックの追加や即時のポリシー変更にも柔軟に対応できないため、本要件の手段としては過剰で非効率である。
DAmazon Bedrock Knowledge Basesに禁止事項のドキュメントを登録して回答を制御する
Amazon Bedrock Knowledge BasesはRAGにより外部データを根拠に回答を生成する機能であり、有害コンテンツや禁止トピックの入出力ブロックを担う安全機構ではないため要件を満たさない。
解説
Guardrails for Amazon Bedrockは、有害コンテンツフィルター（暴力・性的表現・ヘイトなど）や拒否トピック（denied topics）、単語フィルター、PIIマスキングといった安全装置を、コードを書かずに設定できる機能です。
入力プロンプトとモデル出力の両方を検査し、ポリシー違反をブロックするため、最小の開発工数で要件を満たせます。
選択肢Bの自前の正規表現フィルターは実装・保守の工数が大きく、文脈を考慮したブロックも難しい。
選択肢Cのファインチューニングは大量のデータと工数が必要で、トピック単位の柔軟な制御や即時更新には向かない。
選択肢DのKnowledge Basesは外部データに基づく回答（RAG）を提供する機能で、有害コンテンツや禁止トピックのブロックを目的としていない。
ドメイン別正答率・予想スコアでリアルタイムに実力把握
無限ノックでAIFを徹底対策。全問AI生成のオリジナル問題。
無料で演習を始める →