無限ノック › AIP 練習問題一覧 › 問題
AIP生成AIアプリケーションの運用効率と最適化

グローバルなECサイトを運営する企業が Amazon Bedrock(us-east-1)を使用して商品推薦の生成AIシステムを稼働させています。ブラックフライデーなどの大型セール期間中、モデルのスロットリングエラーが急増し応答レイテンシが著しく悪化しています。追加インフラの構築を最小限に抑えつつ、単一リージョンのモデルキャパシティ制限を超えた需要に対応するための最も適切なソリューションはどれですか?

A
Bedrock プロビジョンドスループット(Provisioned Throughput)を購入してモデルユニット数を確保し、専用キャパシティでスロットリングを防止する
プロビジョンドスループットの購入方法ですが、月単位コミットメントであり突発的な需要スパイクへの柔軟な対応には不向きです。
B
クロスリージョン推論プロファイル(Cross-region inference profile)を設定し、us-east-1 が過負荷の際に自動的に他リージョンのキャパシティへルーティングする
✓ 正解
クロスリージョン推論プロファイルはBedrock組み込み機能で、プライマリリージョンがスロットリングまたは容量超過した際に他リージョンへ自動ルーティングします。Route53やLambda@Edgeによる追加インフラが不要で実装コストが最小です。
C
複数リージョン(us-east-1, us-west-2, eu-west-1)に独立した Bedrock エンドポイントを構築し、Amazon Route 53 のレイテンシールーティングポリシーで分散する
複数リージョンに独立したエンドポイント構築が必要で、追加インフラが必要になります。
D
AWS Lambda@Edge を使用してエッジノードでリクエストをインターセプトし、最も空いているリージョンの Bedrock エンドポイントに動的に転送する
Lambda@Edgeを使用した追加インフラが必要で、実装がより複雑になります。

解説

正解: クロスリージョン推論プロファイル(Cross-region inference profile)を設定し、us-east-1 が過負荷の際に自動的に他リージョンのキャパシティへルーティングする。 クロスリージョン推論プロファイルはBedrock組み込み機能で、プライマリリージョンがスロットリングまたは容量超過した際に他リージョンへ自動ルーティングします。Route53やLambda@Edgeによる追加インフラが不要で実装コストが最小です。 選択肢Aはプロビジョンドスループットの購入方法ですが、月単位コミットメントであり突発的な需要スパイクへの柔軟な対応には不向きです。 選択肢Cは複数リージョンに独立したエンドポイント構築が必要で、追加インフラが必要になります。 選択肢DはLambda@Edgeを使用した追加インフラが必要で、実装がより複雑になります。

ドメイン別正答率・予想スコアでリアルタイムに実力把握

無限ノックでAIPを徹底対策。全問AI生成のオリジナル問題。

無料で演習を始める →
← AIP の問題一覧に戻る