SageMakerリアルタイム推論エンドポイントのオートスケーリングはAWS Application Auto Scalingを通じて設定します。エンドポイントバリアントをスケーラブルターゲットとして登録し、SageMakerVariantInvocationsPerInstance(インスタンスあたりの呼び出し数)をターゲット追跡の基準メトリクスに使うスケーリングポリシーを設定します。これにより、トラフィック増加時にインスタンスが自動追加され、減少時には自動縮退されます。
選択肢AのMaxInstanceCountパラメータは、SageMakerエンドポイントのProductionVariant設定に単独のスケーリング制御パラメータとして存在しません。スケーリングはApplication Auto Scalingで別途設定が必要です。
選択肢CのLambda+UpdateEndpoint方式は、技術的に可能ですが、アラームのしきい値設定・Lambda管理・スケーリング遅延など運用負荷が高く、Application Auto Scalingの標準機能を使う方が適切です。
選択肢DのServerless Inferenceは、コールドスタートレイテンシが発生するため、大規模トラフィックや厳格なSLAがある本番ユースケースには不向きです。また既存リアルタイムエンドポイントからの移行は全体的な再設計を必要とします。