MLAMLワークフローのデプロイとオーケストレーション
ある企業は、PDFドキュメント(最大100MB)から情報を抽出するMLモデルを運用しています。
処理には平均3〜8分かかり、1時間あたり約500件のリクエストが発生します。
クライアントはリクエスト送信後に結果を非同期で受け取ることができます。
コストと運用効率を最適化するSageMakerエンドポイントタイプはどれですか?
ASageMaker バッチ変換(Batch Transform)
(SageMaker バッチ変換)はS3上の大量データの一括処理向けであり、リアルタイムのリクエスト受付には不向きです。
BSageMaker リアルタイムエンドポイント(呼び出しタイムアウトを10分に延長)
(SageMaker リアルタイムエンドポイント)は処理時間が長い場合にタイムアウトが発生しやすく、適切ではありません。
CSageMaker 非同期推論エンドポイント(Asynchronous Inference Endpoint)
✓ 正解
SageMaker 非同期推論エンドポイントは、大きなペイロード(最大1GB)と長い処理時間(最大1時間)に対応し、リクエストをキューに入れて順次処理します。アイドル時にインスタンス数を0までスケールインできるためコスト効率も高いです。
DSageMaker サーバーレス推論エンドポイント(Serverless Inference Endpoint)
(SageMaker サーバーレス推論エンドポイント)はペイロードサイズの上限(6MB)があり不適切です。
解説
SageMaker 非同期推論エンドポイントは、大きなペイロード(最大1GB)と長い処理時間(最大1時間)に対応し、リクエストをキューに入れて順次処理します。アイドル時にインスタンス数を0までスケールインできるためコスト効率も高いです。
選択肢A(SageMaker バッチ変換)はS3上の大量データの一括処理向けであり、リアルタイムのリクエスト受付には不向きです。
選択肢B(SageMaker リアルタイムエンドポイント)は処理時間が長い場合にタイムアウトが発生しやすく、適切ではありません。
選択肢D(SageMaker サーバーレス推論エンドポイント)はペイロードサイズの上限(6MB)があり不適切です。
ドメイン別正答率・予想スコアでリアルタイムに実力把握
無限ノックでMLAを徹底対策。全問AI生成のオリジナル問題。
無料で演習を始める →