MLAMLワークフローのデプロイとオーケストレーション
あるeコマース企業が、本番稼働中のレコメンデーション(推薦)モデルを新バージョンへ更新したいと考えています。リスクを最小化するため、新モデルには全体の5%のトラフィックから開始し、エラーレートが急増した場合は自動的に旧モデルへ切り戻す要件があります。最も適切な実装方法はどれですか?
A新旧モデルを別々のSageMakerエンドポイントにデプロイし、Amazon Route 53の加重ルーティングポリシーでトラフィックを分散させる
Route 53加重ルーティングはDNSレベルのトラフィック分散には有効ですが、SageMaker固有メトリクス(モデル精度等)との連携が困難で、カナリアリリース・自動ロールバック機能を持ちません。
BSageMakerエンドポイントのBlue/GreenデプロイでCanaryトラフィックシフト戦略を選択し、CloudWatchアラームによる自動ロールバックを設定する
✓ 正解
SageMakerのBlue/GreenデプロイメントはCanary・Linear・AllAtOnceのトラフィックシフト戦略をサポートし、CloudWatchアラームと統合することでエラーレート上昇時の自動ロールバックが可能です。
CSageMaker Multi-Model Endpointに新旧両モデルをロードし、アプリケーション側でリクエストをルーティングする
Multi-Model Endpointは複数モデルを1つのエンドポイントにロードする共有インフラ機能で、A/Bテストとトラフィック段階移行を目的としたBlue/Greenデプロイメントとは異なるユースケースです。
DSageMaker Pipelinesで新旧モデルを並列デプロイし、A/Bテスト完了後に手動で新モデルへ切り替える
SageMaker Pipelinesはパイプラインのステップ(前処理・学習・評価等)をオーケストレーションするツールで、モデルデプロイメント戦略(Canary・段階移行)の実装には使用されません。
解説
SageMakerのBlue/Greenデプロイメント(新旧環境を並列稼働させる手法)は、Canary(少量から段階的に移行)・Linear(均等に段階移行)・AllAtOnce(一括切替)のトラフィックシフト戦略をサポートします。CloudWatchアラームとの統合により、エラーレート上昇時の自動ロールバックが可能です。
選択肢AのRoute 53はSageMaker固有メトリクスとの連携が困難で、エラーレートに基づく自動切り戻しを実現できません。
選択肢BのBlue/GreenデプロイのCanary戦略が正解です。5%からのトラフィックシフトとCloudWatchアラームによる自動ロールバックの両要件を満たします。
選択肢CのMulti-Model Endpointは複数モデルの共有インフラ用途であり、段階的トラフィックシフトの要件に合いません。
選択肢DのPipelinesはモデルのデプロイメント戦略ではなく、パイプラインオーケストレーションツールです。
ドメイン別正答率・予想スコアでリアルタイムに実力把握
無限ノックでMLAを徹底対策。全問AI生成のオリジナル問題。
無料で演習を始める →