MLAMLソリューションの監視、メンテナンス、セキュリティ
あるEC企業が、需要に応じてトラフィックが大きく変動する商品検索ランキングモデルを SageMaker リアルタイムエンドポイントで運用しています。深夜帯はほぼリクエストがなく、日中はピークが発生します。固定インスタンス数では深夜の無駄なコストが大きいため、CloudWatch メトリクスに基づきインスタンス数を自動でスケールさせたいと考えています。最も適切な設定はどれですか。
AApplication Auto Scaling のターゲット追跡ポリシーを SageMakerVariantInvocationsPerInstance に基づいて設定する
✓ 正解
Application Auto Scalingのターゲット追跡で呼び出し数メトリクスを目標化すると、トラフィック変動に応じて自動的にスケールし、ピーク追従と閑散時のコスト削減を両立できるため最適。
Bエンドポイントのインスタンスタイプを定期的に手動で変更してコストを調整する
インスタンスタイプの手動変更は運用負荷が高く、急峻なトラフィック変動にリアルタイムで追従できないためコスト最適化の要件を満たさない。
CCloudWatch アラームで CPUUtilization を監視し、閾値超過時に Lambda でエンドポイントを再作成する
Lambdaでエンドポイントを再作成する方式は再作成中のダウンタイムや複雑性を招き、標準のオートスケーリング機能を再実装する非効率な構成で不適切。
DBatch Transform に切り替えてリクエストをまとめて処理する
Batch Transformはまとめて非同期処理するバッチ用途であり、低レイテンシーが必要なリアルタイム検索ランキングには適さない。
解説
SageMaker リアルタイムエンドポイントのインスタンス数自動調整には Application Auto Scaling を用いる。
ターゲット追跡スケーリングポリシーで SageMakerVariantInvocationsPerInstance（インスタンスあたりの呼び出し数）を目標値に設定すると、トラフィックの増減に応じて自動でスケールイン/アウトし、ピークに追従しつつ閑散時のコストを抑えられる。
選択肢Bのインスタンスタイプの手動変更は運用負荷が高く、変動トラフィックへのリアルタイム追従ができない。
選択肢Cの Lambda によるエンドポイント再作成は、再作成中にダウンタイムが発生し、標準のオートスケーリングを再発明する非効率な構成である。
選択肢Dの Batch Transform は非同期のバッチ処理向けで、リアルタイムの検索ランキング応答という用途には適さない。
ドメイン別正答率・予想スコアでリアルタイムに実力把握
無限ノックでMLAを徹底対策。全問AI生成のオリジナル問題。
無料で演習を始める →