MLAMLワークフローのデプロイとオーケストレーション
あるMLチームが、SageMakerでトレーニングしたXGBoostモデルを本番リアルタイム推論エンドポイントにデプロイする前に、コストとレイテンシのバランスが最適なインスタンスタイプを選定したいと考えています。チームには複数インスタンスタイプを手動でベンチマークする時間的余裕がなく、最小限の運用コストで最適な構成を特定したいと考えています。この要件を最も効率的に満たすAWSのアプローチはどれですか？
ASageMaker Studioで複数インスタンスタイプのエンドポイントを順番に手動作成し、カスタム負荷テストスクリプトでCloudWatchメトリクスを収集して比較する
手動ベンチマークは時間と運用コストがかかり、「最小限の運用コスト」という要件に反します。
BSageMaker Inference Recommenderを使用してモデルを自動ベンチマークし、レイテンシ・スループット・コストのトレードオフを分析した上で最適なインスタンスタイプの推奨を得る
✓ 正解
SageMaker Inference Recommenderは、モデルアーティファクトとトラフィックパターンを入力として複数のインスタンスタイプを自動的にベンチマークし、レイテンシ・スループット・コストの観点から最適なインスタンスタイプを推奨するマネージドサービスです。DefaultジョブとAdvancedジョブの2モードがあり、手動作業なしに最適な構成を特定できます。
CAWS Pricing Calculatorで各インスタンスタイプのコストを比較し、最も安価なインスタンスタイプを選択してデプロイする
コストのみでインスタンスを選ぶアプローチはレイテンシ要件を無視しており、本番ユースケースに不適切です。
DSageMaker Autopilotを実行して、インスタンスタイプ選定を含むエンドポイント設定全体を自動最適化させる
SageMaker AutopilotはAutoMLツールであり、モデルのトレーニングプロセス自体を自動化するものです。デプロイ後のインスタンスタイプ選定機能は持っていません。
解説
SageMaker Inference Recommenderは、モデルアーティファクトとトラフィックパターンを入力として複数のインスタンスタイプを自動的にベンチマークし、レイテンシ・スループット・コストの観点から最適なインスタンスタイプを推奨するマネージドサービスです。DefaultジョブとAdvancedジョブの2モードがあり、手動作業なしに最適な構成を特定できます。
選択肢Aの手動ベンチマークは時間と運用コストがかかり、「最小限の運用コスト」という要件に反します。
選択肢Cのコストのみでインスタンスを選ぶアプローチはレイテンシ要件を無視しており、本番ユースケースに不適切です。
選択肢DのSageMaker AutopilotはAutoMLツールであり、モデルのトレーニングプロセス自体を自動化するものです。デプロイ後のインスタンスタイプ選定機能は持っていません。
ドメイン別正答率・予想スコアでリアルタイムに実力把握
無限ノックでMLAを徹底対策。全問AI生成のオリジナル問題。
無料で演習を始める →