MLAMLソリューションの監視、メンテナンス、セキュリティ複数選択
機械学習チームがSageMakerリアルタイム推論エンドポイントに対してAuto Scalingと障害アラートの両方を設定しようとしています。エンドポイントへの負荷が高まったときに自動でスケールアウトし、モデルコンテナがサーバーエラーレスポンスを返した際に運用チームへ通知したいと考えています。この目的を達成するために設定すべきCloudWatchメトリクスとして正しいものを2つ選んでください。
AInvocationsPerInstance（インスタンスあたりの呼び出し回数）をAuto Scalingポリシーのターゲットメトリクスとして使用する
✓ 正解
InvocationsPerInstanceはインスタンス数で正規化された呼び出し回数であり、スケール後も目標値を一定に保てるため、Auto Scalingのターゲットメトリクスとして推奨されます。負荷増加に応じて自動的にスケールアウトできます。
BOverheadLatency（SageMakerが内部処理で追加するオーバーヘッドのレイテンシー）をAuto Scalingのターゲットメトリクスとして使用する
OverheadLatencyはSageMaker内部処理が追加するオーバーヘッドを示すだけで、リクエスト負荷に比例しないため、Auto Scalingのターゲットメトリクスとしては適切ではありません。
CInvocation5XXErrors（モデルコンテナが返した5xxエラーの件数）に対してCloudWatchアラームを設定して運用チームへSNS通知する
✓ 正解
Invocation5XXErrorsはモデルコンテナが返した5xxサーバーエラーの件数を示すため、CloudWatchアラームとSNSを組み合わせることで、エラー発生時に運用チームへ通知できます。
DDiskUtilization（トレーニングインスタンスのディスク使用率）をAuto Scalingのトリガーとして使用する
DiskUtilizationはトレーニングインスタンスのディスク使用率であり、リアルタイム推論エンドポイントのスケーリング基準としては不適切です。
解説
SageMakerリアルタイムエンドポイントのAuto Scalingでは、InvocationsPerInstanceが推奨ターゲットメトリクスです。インスタンス数で正規化されているため、スケールアウト後も目標値を一定に維持でき、負荷増加時に自動でスケールできます。
モデルコンテナのサーバーエラー検出にはInvocation5XXErrorsが最適で、CloudWatchアラームとSNSトピックを組み合わせて運用チームへ通知を実装します。
OverheadLatencyはSageMaker内部処理のオーバーヘッドであり、負荷に比例しないためAuto Scalingの適切なターゲットメトリクスではありません。
DiskUtilizationは推論エンドポイントのスケーリング基準として不適切です。
ドメイン別正答率・予想スコアでリアルタイムに実力把握
無限ノックでMLAを徹底対策。全問AI生成のオリジナル問題。
無料で演習を始める →