AIP生成AIアプリケーションの運用効率と最適化
グローバルECサービスを運営する企業が、Amazon Bedrock の Claude 3.5 Sonnet(us-east-1)を使用して商品説明文を自動生成しています。Black Fridayなどのセール期間中、リクエストが急増して ThrottlingException が頻発します。アプリケーションコードを大幅に変更せずに、複数リージョンの Bedrock 容量を自動的に活用してスロットリングを解消するための最善策はどれですか?
Aus-east-1、us-west-2、eu-west-1 の各 Bedrock エンドポイントを Lambda 環境変数に設定し、ThrottlingException 発生時に次のリージョンへ手動フェイルオーバーするカスタムリトライロジックを実装する
複数リージョンのエンドポイント管理と手動リトライロジックをカスタム実装する必要があり、実装コストが高く、自動フェイルオーバーの即時性が損なわれます。
BAmazon Bedrock クロスリージョン推論プロファイル(Cross-Region Inference Profile)を作成し、アプリケーションのモデルIDをプロファイルARNに変更することで、Bedrock が自動的に複数リージョン間でトラフィックを分散する
✓ 正解
単一のプロファイルARNを通じてBedrockが自動的に複数リージョンの容量を活用し、トラフィック分散・フェイルオーバーが自動化されます。アプリケーション変更は最小限です。
CAmazon CloudFront を Bedrock の前段に配置し、生成AIレスポンスをエッジロケーションでキャッシュすることで同一リクエストの重複呼び出しを防ぐ
キャッシング機能は静的コンテンツに最適化されており、生成AIのような動的レスポンスのキャッシュは不向きで、プライバシー・鮮度の問題も生じます。
DAWS Global Accelerator を使用して Bedrock へのリクエストを最低レイテンシのリージョンにルーティングし、スロットリングを回避する
ネットワーク層のルーティングサービスであり、Bedrock APIのネイティブサポートがなく、単なるレイテンシー短縮のみでスロットリング回避には対応していません。
解説
Amazon Bedrock クロスリージョン推論プロファイル(Cross-Region Inference Profile)は、単一のプロファイルARNを通じて複数のAWSリージョンのBedrock容量を自動的に活用する機能です。アプリケーション側の変更はモデルIDをプロファイルARNに置き換えるだけで、Bedrockがトラフィックを自動的に分散・フェイルオーバーします。カスタムリトライロジックが不要で実装コストが最小限のため本問の最善策です。
選択肢Aはエンドポイント管理と手動フェイルオーバーをカスタム実装する必要があり、実装・運用コストが高く即時性も劣ります。
選択肢CのCloudFrontは静的コンテンツのキャッシュに最適化されており、動的な生成AIレスポンスのキャッシュには不向きで鮮度・プライバシーの問題も生じます。
選択肢DのGlobal Acceleratorはネットワーク層のルーティングサービスでBedrock APIをネイティブにサポートせず、スロットリング回避には対応しません。
ドメイン別正答率・予想スコアでリアルタイムに実力把握
無限ノックでAIPを徹底対策。全問AI生成のオリジナル問題。
無料で演習を始める →