フィンテック企業が、Amazon BedrockのClaude 3モデルとサードパーティのGPT-4 API(クエリの複雑さに応じて動的にルーティング)を組み合わせたハイブリッドAIアシスタントを本番運用しています。コンプライアンス部門から「どちらのモデルからの応答に対しても、Bedrockで設定済みのGuardrail(PIIマスキング・有害コンテンツフィルター・禁止トピック)を一貫して適用すること」という要件が出ました。ただし「全トラフィックをBedrockに集約するアーキテクチャ変更は行わないこと」という制約もあります。最も運用オーバーヘッドが少ない方法はどれですか?
ApplyGuardrail APIはAmazon Bedrock Guardrailsの独立したAPIエンドポイントであり、Bedrockモデルを呼び出すことなく任意のテキストに対してGuardrailを適用できます。これにより、サードパーティモデルの応答に対しても既存のGuardrail設定(PIIマスキング・有害コンテンツフィルター・禁止トピック)を一貫して再利用でき、設定の重複や乖離が発生しません。単一のGuardrail定義をすべてのチャネルで共有できる点が最大の利点です。 選択肢B の 再入力チェックはGPT-4応答をBedrockモデルに渡して比較する手法であり、追加の呼び出しコストが発生し、意味的比較の精度も保証されません。 選択肢C の カスタムLambdaはGuardrailの設定を手動で複製する必要があり、設定変更時の同期ミスや運用オーバーヘッドが増大します。 選択肢D の Comprehend + SageMakerは複数サービスの管理が必要で、既存Guardrail設定との統一性が保たれません。