グローバルなECサイトを運営する企業が Amazon Bedrock(us-east-1)を使用して商品推薦の生成AIシステムを稼働させています。ブラックフライデーなどの大型セール期間中、モデルのスロットリングエラーが急増し応答レイテンシが著しく悪化しています。追加インフラの構築を最小限に抑えつつ、単一リージョンのモデルキャパシティ制限を超えた需要に対応するための最も適切なソリューションはどれですか?
正解: クロスリージョン推論プロファイル(Cross-region inference profile)を設定し、us-east-1 が過負荷の際に自動的に他リージョンのキャパシティへルーティングする。 クロスリージョン推論プロファイルはBedrock組み込み機能で、プライマリリージョンがスロットリングまたは容量超過した際に他リージョンへ自動ルーティングします。Route53やLambda@Edgeによる追加インフラが不要で実装コストが最小です。 選択肢Aはプロビジョンドスループットの購入方法ですが、月単位コミットメントであり突発的な需要スパイクへの柔軟な対応には不向きです。 選択肢Cは複数リージョンに独立したエンドポイント構築が必要で、追加インフラが必要になります。 選択肢DはLambda@Edgeを使用した追加インフラが必要で、実装がより複雑になります。