AIF基盤モデルのアプリケーション

あるデータサイエンスチームが、100万件の顧客フィードバックテキストをAmazon Bedrockの基盤モデルで感情分析・要約処理する必要があります。この処理はリアルタイム性が不要で、コストを最小化したいと考えています。最も適切なアプローチはどれですか?

A
Amazon Bedrock のオンデマンド推論 API を Lambda から100万回非同期呼び出しし並列処理する
オンデマンド推論の並列呼び出しは、スロットリングとコストの問題があり、不適切である。
B
Amazon Bedrock のバッチ推論(Batch Inference)を使用し、S3 に格納した入力データをまとめて非同期処理する
✓ 正解
Amazon Bedrockのバッチ推論(Batch Inference)は、大量のリクエストをS3に格納してまとめて非同期処理する機能です。リアルタイム性が不要な大規模処理ではオンデマンド推論と比較して大幅なコスト削減が可能です。
C
Amazon SageMaker リアルタイムエンドポイントに基盤モデルをデプロイして処理する
SageMakerエンドポイントは、常時起動コストが発生するため、不適切である。
D
Amazon Bedrock Agents でワークフローを構築し各フィードバックを順次処理する
Agentsは、順次処理のため大規模バッチには非効率である。

解説

Amazon Bedrockのバッチ推論(Batch Inference)は、大量のリクエストをS3に格納してまとめて非同期処理する機能です。リアルタイム性が不要な大規模処理ではオンデマンド推論と比較して大幅なコスト削減が可能です。 選択肢Aのオンデマンド推論の並列呼び出しは、スロットリングとコストの問題があり、不適切である。 選択肢CのSageMakerエンドポイントは、常時起動コストが発生するため、不適切である。 選択肢DのAgentsは、順次処理のため大規模バッチには非効率である。

ドメイン別正答率・予想スコアでリアルタイムに実力把握

無限ノックでAIFを徹底対策。全問AI生成のオリジナル問題。

無料で演習を始める →
AIF の問題一覧に戻る