AIP基盤モデルの統合、データ管理、コンプライアンス
大手 EC 企業が Amazon Bedrock を使用してリアルタイム商品説明生成サービスを運用しています。通常時は us-east-1 のオンデマンドスループットで十分ですが、ブラックフライデーなどのピーク時には特定基盤モデルのスロットリングが発生し、HTTP 429 エラーが急増します。以下の条件をすべて満たす方法はどれですか?
・追加の ML(機械学習)インフラ管理が不要
・既存コードへの変更が最小限
・最もコスト効率が高い
Aus-east-1 と us-west-2 の両リージョンに Bedrock Provisioned Throughput を購入し、Route 53 フェイルオーバールーティングを設定する
両リージョンに Provisioned Throughput を常時確保するとピーク時以外も固定費が発生し費用対効果が低くなります。スロットリング回避には有効ですが、コスト効率の最大化という条件を満たしません。
BAmazon Bedrock のクロスリージョン推論プロファイルを使用して、単一 API エンドポイントで複数リージョンへのトラフィックを自動分散する
✓ 正解
単一 API エンドポイントで複数リージョンにトラフィックを自動分散する機能で、追加インフラ構築不要・既存コードの変更最小限・スロットリング回避・コスト効率の高さをすべて満たします。
C複数 AWS アカウントに Bedrock を設定し、各アカウントのサービスクォータを独立させてクライアント側でロードバランシングを実装する
複数アカウントを管理しクライアント側でロードバランシングを実装する必要があるため運用複雑性が高くなります。コード変更が最小限という条件を満たさず、管理コストも増大するため不適切です。
DAmazon ElastiCache でモデルレスポンスをキャッシュし、同一リクエストの重複排除によりスループット消費を削減する
同一リクエストの重複排除には有効ですが、商品説明生成では入力パターンが多様なためキャッシュヒット率が低く、ピーク時のスロットリングを根本的に解決することはできません。
解説
Bedrock のクロスリージョン推論プロファイルは、単一 API 呼び出しを同一地理圏(例:米国)内の複数リージョンへ自動分散してスロットリングを回避します。追加インフラ管理が不要で既存コードへの変更も最小限です。
選択肢Aの Provisioned Throughput は、常時コストが発生しピーク対応の費用対効果が低くなります。
選択肢Cのマルチアカウント構成は、各アカウントの設定・クォータ管理・クライアント側ロードバランシングの実装など運用複雑性が高く、コード変更を最小限に抑えるという条件も満たしません。
選択肢DのElastiCache でのキャッシュは、同一リクエストの重複を排除する効果はありますが、商品説明生成では入力が多様なためキャッシュヒット率が低く、ピーク時のスロットリング根本解決にはなりません。
ドメイン別正答率・予想スコアでリアルタイムに実力把握
無限ノックでAIPを徹底対策。全問AI生成のオリジナル問題。
無料で演習を始める →