MLAMLワークフローのデプロイとオーケストレーション
機械学習モデルを本番環境へ段階的に展開し、新旧モデルへトラフィックを分散して検証したい場合に最も適したデプロイ戦略はどれですか。
ABlue/Greenデプロイメント
✓ 正解
新旧2環境を並行稼働させてトラフィック比率を明示的に制御できるため、段階的な検証と迅速なロールバックの両方を実現できます。Amazon SageMakerではカナリアや線形のトラフィックシフティングポリシーとの組み合わせも可能であり、トラフィック分散による検証という問題の要件に最も合致します。
Bインプレースデプロイメント
既存エンドポイントを直接新モデルで上書きするため、旧環境との並行稼働ができません。トラフィックを分散させながら新旧モデルを同時に検証することができず、問題発生時のロールバックも再デプロイが必要になり手順が煩雑です。
Cシャドウデプロイメント
本番トラフィックを新旧両モデルに送信しますが、エンドユーザーには常に旧モデルの結果のみが返されます。新モデルの推論をオフラインで比較する際に有効ですが、実際のユーザーに新旧モデルのレスポンスを分散して見せる要件には対応しません。
Dローリングデプロイメント
インスタンスを順次新バージョンへ差し替える手法で、移行中は新旧インスタンスが混在します。ただしトラフィックをどちらの環境に何パーセント送るか明示的に制御する機能がないため、段階的なトラフィック分散による検証には適していません。
解説
Blue/Greenデプロイメントでは新旧2つのエンドポイント環境を並行稼働させ、トラフィックを段階的に新環境へ切り替えながら検証できます。Amazon SageMakerではカナリアや線形などのトラフィックシフティングポリシーと組み合わせて利用でき、問題発生時には旧環境へ迅速にロールバックすることも可能です。
インプレースデプロイメントは既存エンドポイントを直接新モデルに置き換えるため、旧環境との並行稼働によるトラフィック分散ができず、ロールバックも複雑になります。
シャドウデプロイメントは本番トラフィックを新旧両モデルに送信しますが、エンドユーザーには常に旧モデルの結果のみが返されます。新モデルの挙動をオフラインで検証する手法であり、実際のトラフィックを分散して検証する要件とは異なります。
ローリングデプロイメントはインスタンスを順次新バージョンに更新する手法で、移行中に新旧が混在しますが、トラフィック比率を明示的に制御しながら検証することはできません。
ドメイン別正答率・予想スコアでリアルタイムに実力把握
無限ノックでMLAを徹底対策。全問AI生成のオリジナル問題。
無料で演習を始める →