AIF基盤モデルのアプリケーション
Amazon Bedrockで提供されているモデルを継続的かつ安定したレイテンシで本番環境で利用するために、特定の時間または期間にわたって専用のキャパシティを予約する機能はどれですか？
Aオンデマンドスループット (On-Demand Throughput)
オンデマンドスループットは使用量に応じた従量課金モデルであり、柔軟性はありますが専用キャパシティの予約ではないため、安定したレイテンシや継続的な大規模推論の保証はありません。
Bプロビジョンドスループット (Provisioned Throughput)
✓ 正解
プロビジョンドスループットは指定期間に専用モデルキャパシティを予約購入するモデルであり、一貫したレイテンシと安定した処理能力が保証されるため本番環境での継続利用に最適です。
Cスポットインスタンス (Spot Instances)
スポットインスタンスはEC2の余剰コンピューティングキャパシティを低価格で利用するEC2固有の機能であり、Amazon Bedrockのモデル推論のキャパシティ管理とは別の概念です。
DAmazon Bedrock Batch Inference
Batch Inferenceは大量のデータを非同期でまとめて処理する機能であり、リアルタイムかつ安定したレイテンシが求められる本番環境でのインタラクティブな推論用途には適していません。
解説
正解はBです。Amazon Bedrockのプロビジョンドスループット（Provisioned Throughput）は、一貫したレイテンシと大規模な推論キャパシティを確保するために、特定の期間（1ヶ月や6ヶ月など）モデル単位の処理能力を予約・購入するモデルです。ファインチューニングされたカスタムモデルを利用する場合もこのキャパシティが必要です。
Aのオンデマンドは使用した分だけ支払う柔軟なモデルですが、レイテンシの保証はありません。
CのスポットインスタンスはEC2の余剰キャパシティを利用する仕組みでBedrockの機能ではありません。
DのBatch Inferenceは非同期の大規模データ処理用です。
ドメイン別正答率・予想スコアでリアルタイムに実力把握
無限ノックでAIFを徹底対策。全問AI生成のオリジナル問題。
無料で演習を始める →