AIF生成AIの基礎
ある企業が、Amazon Bedrock 上で独自にカスタマイズ(ファインチューニング)したモデルを本番運用します。トラフィックは平日日中に安定して高水準で推移することが予測でき、一定の推論スループットを保証しつつ、大量呼び出し時の単価も抑えたいと考えています。この要件に最も適した Bedrock の推論の利用形態はどれですか。
A一定のスループットを確保し時間単位で課金するプロビジョンドスループット
✓ 正解
プロビジョンドスループットはモデルユニットを確保して一定の処理能力を保証し、予測可能で安定した高トラフィック運用に適し単価も抑えられます。カスタムモデルの本番提供にも必要なため、この要件に最も適合します。
Bリクエストごとに従量課金されるオンデマンド推論
オンデマンドはリクエスト単位の従量課金で手軽ですが、スループットの保証がなく安定した大量運用では性能保証とコスト効率の両面で劣ります。予測可能な高負荷本番には最適ではないため誤りです。
C大量データをまとめて非同期処理するバッチ推論
バッチ推論は大量データをまとめて非同期に処理する用途で、安定したオンラインの推論スループットを保証する仕組みではありません。日中の継続的なリアルタイム提供という要件には合致しません。
D複数モデルの出力品質を比較するモデル評価(Model Evaluation)
モデル評価は複数モデルの出力品質を比較・選定するための機能であり、本番の推論を提供する利用形態ではありません。スループット保証やコスト最適化の要件とは目的が異なるため誤りです。
解説
プロビジョンドスループットは、モデルユニットを確保して一定の推論処理能力(スループット)を保証する課金形態で、トラフィックが予測可能で安定して高水準な本番運用に適し、大量処理時の単価も抑えられます。さらにカスタマイズ済みモデルの本番提供にはプロビジョンドスループットが必要です。
選択肢Bのオンデマンドは従量課金で手軽だが、スループット保証がなく大量・安定運用ではコスト効率と性能保証の両面で劣る。
選択肢Cのバッチ推論は大量データの一括非同期処理向けで、安定したオンライン推論の保証用途ではない。
選択肢Dのモデル評価は品質比較のための機能で、本番推論の提供形態ではない。
ドメイン別正答率・予想スコアでリアルタイムに実力把握
無限ノックでAIFを徹底対策。全問AI生成のオリジナル問題。
無料で演習を始める →