MLAMLワークフローのデプロイとオーケストレーション
MLエンジニアチームが新しい推論モデルを本番デプロイする前に、ml.m5.large
・ml.c5.xlarge
・ml.g4dn.xlarge
など複数のインスタンスタイプを横断してレイテンシ・スループット・コストを自動ベンチマークしたいと考えています。手動でインスタンスを立ち上げてテストする工数を削減するには、どのAWSサービスを使用するべきですか？
ASageMaker ハイパーパラメータ調整ジョブ（Hyperparameter Tuning Job）を実行してモデルパラメータと推論性能を同時に最適化する
SageMaker ハイパーパラメータ調整ジョブは、モデルのAccuracy最適化用であり、推論インスタンスの選定には使用しません。
BSageMaker Inference Recommender のジョブを実行して推論ワークロードに最適なインスタンスタイプを自動ベンチマークする
✓ 正解
SageMaker Inference Recommenderは、モデルをModel Registryに登録後にジョブを起動すると複数インスタンスタイプで自動負荷テストを行い、レイテンシ・スループット・コストのトレードオフを一覧比較できます。デフォルトジョブ（約45分）とアドバンスジョブ（カスタム負荷パターン指定）の2種類があります。
CAWS Compute Optimizerでサーバーインスタンスの推奨レポートを取得する
AWS Compute Optimizerは、EC2・RDS・Lambdaなどの既存リソース使用率に基づいてコスト最適化を推奨するサービスであり、SageMaker推論インスタンスの事前ベンチマークには対応していません。
DSageMaker Experimentsに複数の推論設定を記録し、メトリクスを手動で比較する
SageMaker Experimentsは、学習実験のメトリクスを記録・比較するためのサービスであり、複数インスタンスタイプをまたいだ推論の自動ベンチマーク機能は提供していません。
解説
選択肢Bが正解です。SageMaker Inference Recommender は、モデルを Model Registry に登録後にジョブを起動すると複数インスタンスタイプで自動負荷テストを行い、レイテンシ・スループット・コストのトレードオフを一覧比較できます。デフォルトジョブ（約45分）とアドバンスジョブ（カスタム負荷パターン指定）の2種類があります。
選択肢Aの SageMaker ハイパーパラメータ調整ジョブは、モデルの Accuracy 最適化用であり、推論インスタンスの選定には使用しません。
選択肢Cの AWS Compute Optimizer は、EC2・RDS・Lambda などの既存リソース使用率に基づいてコスト最適化を推奨するサービスであり、SageMaker 推論インスタンスの事前ベンチマークには対応していません。
選択肢Dの SageMaker Experiments は、学習実験のメトリクスを記録・比較するためのサービスであり、複数インスタンスタイプをまたいだ推論の自動ベンチマーク機能は提供していません。
ドメイン別正答率・予想スコアでリアルタイムに実力把握
無限ノックでMLAを徹底対策。全問AI生成のオリジナル問題。
無料で演習を始める →