AIP生成AIアプリケーションの運用効率と最適化

eコマース企業が、Amazon Bedrock上でリアルタイム商品レコメンデーションシステムを構築しています。トラフィックパターンは予測可能で、平日9:00〜21:00(JST)のみピークがあり(約50 TPS:Tokens Per Second、トークン毎秒)、それ以外の時間帯はほぼゼロです。最もコスト効率が高いデプロイ戦略はどれですか?

A
オンデマンド推論のみを使用し、全トラフィックを従量課金で処理する
オンデマンド単独は高スループット時にPTより高額になります。
B
24時間365日のProvisioned Throughput(プロビジョニング済みスループット)を50 TPSで購入し、ピーク時の安定性を確保する
24時間365日のProvisioned Throughputを購入する場合、オフピーク時(12時間)も費用がかかるため、コスト効率が低下します。
C
ピーク時間帯(12時間/日)のみProvisioned Throughputを購入し、オフピーク時はオンデマンド推論にフォールバックするハイブリッド構成にする
✓ 正解
ピーク時間帯(12時間/日)のみProvisioned Throughputを購入し、オフピーク時はオンデマンド推論にフォールバックするハイブリッド構成にする。 Provisioned Throughputは時間単位で課金されるため、トラフィックが予測可能な場合にオンデマンドより低コストになります。平日12時間のピークのみPTを購入し、残り12時間はオンデマンド(ゼロトラフィックのため実質ゼロコスト)にすることで24時間PT購入より大幅にコスト削減できます。
D
AWS Lambda関数内でモデル推論ロジックを実装し、Auto Scalingで動的にスケールする
LambdaはBedrockの推論エンジン自体をホストする用途には使用しません。

解説

ピーク時間帯(12時間/日)のみProvisioned Throughputを購入し、オフピーク時はオンデマンド推論にフォールバックするハイブリッド構成にする。 Provisioned Throughputは時間単位で課金されるため、トラフィックが予測可能な場合にオンデマンドより低コストになります。平日12時間のピークのみPTを購入し、残り12時間はオンデマンド(ゼロトラフィックのため実質ゼロコスト)にすることで24時間PT購入より大幅にコスト削減できます。 選択肢Aは、オンデマンド単独は高スループット時にPTより高額になります。 選択肢Bは、24時間365日のProvisioned Throughputを購入する場合、オフピーク時(12時間)も費用がかかるため、コスト効率が低下します。 選択肢Dは、LambdaはBedrockの推論エンジン自体をホストする用途には使用しません。

ドメイン別正答率・予想スコアでリアルタイムに実力把握

無限ノックでAIPを徹底対策。全問AI生成のオリジナル問題。

無料で演習を始める →
AIP の問題一覧に戻る