MLAMLソリューションの監視、メンテナンス、セキュリティ
動画コンテンツ解析企業がSageMaker Async Inferenceエンドポイントを使用し、大容量動画ファイルをS3経由で処理しています。
SLAとして「1インスタンスあたりの処理待ちリクエスト数が10件を超えた場合に5分以内にSNSアラートを送信する」という要件があります。
追加のカスタム実装を最小限に抑えてこの監視アラートを構築するために使用すべきメトリクスはどれですか。
ASageMaker Model MonitorのData Quality MonitorジョブをAsync Inferenceエンドポイントに適用しキュー異常パターンを検出する
Data Quality MonitorはAPIへの入力データの統計特性(平均・標準偏差・欠損率)を監視するサービスであり、Async Inferenceの処理待ちキュー数の監視には対応していない。目的が異なる。
BSageMaker Debuggerのカスタムルールを実装してエンドポイントの出力バッファーを定期サンプリングしキューサイズを推定する
SageMaker Debuggerはトレーニングジョブのデバッグ用ツールで、デプロイ済みのAsync Inferenceエンドポイントのキューサイズをリアルタイム監視する機能を持たない。カスタム実装が必要で工数が大きい。
CAWS X-Rayのトレース分析でAsync Inferenceの各リクエスト開始〜完了スパンを計測しキュー滞留時間から逆算してアラームを設定する
AWS X-RayはHTTPリクエストのトレースツールで、SageMaker Async Inferenceとのネイティブ統合がなく、キューバックログ数を直接算出・監視する手段として使用できない。
DCloudWatchメトリクスのApproximateBacklogSizePerInstanceを監視してアラームを作成しSNSトピックに通知する
✓ 正解
ApproximateBacklogSizePerInstanceはAsync Inferenceが標準でCloudWatchに自動発行するメトリクスで、追加実装不要でCloudWatchアラーム→SNS通知の監視パイプラインを最小構成で構築できる。
解説
SageMaker Async Inferenceエンドポイントは、CloudWatchに対してApproximateBacklogSizeおよびApproximateBacklogSizePerInstanceメトリクスを自動的に発行します。ApproximateBacklogSizePerInstanceはインスタンスあたりの処理待ちリクエスト数を表し、カスタム実装不要でCloudWatchアラームを設定してSNSトピックに通知できます。さらにこのメトリクスはApplication Auto ScalingのターゲットメトリクスとしてAsync Inferenceエンドポイントのオートスケーリングにも活用でき、スケールアウトによるSLA維持にも対応できます。
選択肢AのSageMaker Model MonitorのData Quality MonitorはAPI入力データの統計的品質(欠損値・特徴量分布)を監視するサービスであり、処理待ちキューのサイズ監視という用途には設計されていない。
選択肢BのSageMaker DebuggerはTraining Jobのデバッグとプロファイリングに特化したサービスで、本番エンドポイントのキューサイズ監視機能は持っていない。
選択肢CのAWS X-RayはHTTPリクエストのエンドツーエンドトレースを提供するが、SageMaker Async Inferenceとのネイティブ統合はなく、キューバックログ数を直接取得する機能もない。
ドメイン別正答率・予想スコアでリアルタイムに実力把握
無限ノックでMLAを徹底対策。全問AI生成のオリジナル問題。
無料で演習を始める →