MLAMLワークフローのデプロイとオーケストレーション
MLエンジニアが新しいバージョンのモデルを本番環境にデプロイしようとしています。最初はトラフィックの10%のみを新モデルに流し、CloudWatch メトリクスを監視しながら段階的に100%へ移行したいと考えています。既存の本番エンドポイントを停止せずに、最小限の構成変更でこれを実現する最も適切な方法はどれですか？
A既存エンドポイントに新モデルを本番バリアント（Production Variant）として追加し、InitialVariantWeight で各バリアントのトラフィック比率を設定する
✓ 正解
SageMaker エンドポイントは複数の本番バリアント（Production Variant）をサポートし、InitialVariantWeight でトラフィック割合を制御できます。UpdateEndpointWeightsAndCapacities API でエンドポイントを停止せずにリアルタイムでトラフィック比率を変更できるため、カナリアデプロイ（canary deployment：少量トラフィックで新版を段階的に検証する手法）やA/Bテストを単一エンドポイント内で実現できます。
B新しい SageMaker エンドポイントを作成し、Route 53 の加重ルーティング（Weighted Routing）で10%のリクエストを新エンドポイントに転送する
Route 53 や Lambda を使う方法は不要な複雑性を導入します。
CLambda 関数で2つのエンドポイントへのリクエストを振り分け、乱数で10%を新モデルエンドポイントに転送するロジックを実装する
Lambda 関数で振り分けるロジックは手動管理が必要で運用負荷が高くなります。
DSageMaker Pipelines のデプロイステップで blue/green（ブルーグリーン）デプロイを設定し、10%トラフィックシフトを指定する
SageMaker Pipelines の blue/green デプロイも Canary 設定で段階的なトラフィックシフトは可能ですが、新規フリートの作成とデプロイ設定が必要になり構成変更が大きくなります。
解説
SageMaker エンドポイントは複数の本番バリアント（Production Variant）をサポートし、InitialVariantWeight でトラフィック割合を制御できます。UpdateEndpointWeightsAndCapacities API でエンドポイントを停止せずにリアルタイムでトラフィック比率を変更できるため、カナリアデプロイ（canary deployment：少量トラフィックで新版を段階的に検証する手法）やA/Bテストを単一エンドポイント内で実現できます。
選択肢BのRoute 53 や Lambda を使う方法は不要な複雑性を導入します。
選択肢CのLambda 関数で振り分けるロジックは手動管理が必要で運用負荷が高くなります。
選択肢DのSageMaker Pipelines の blue/green デプロイも Canary 設定で段階的なトラフィックシフトは可能ですが、新規フリートの作成とデプロイ設定が必要になり構成変更が大きくなります。
ドメイン別正答率・予想スコアでリアルタイムに実力把握
無限ノックでMLAを徹底対策。全問AI生成のオリジナル問題。
無料で演習を始める →