無限ノック › AIP 練習問題一覧 › 問題
AIP生成AIアプリケーションの運用効率と最適化

グローバルな金融サービス企業が、Amazon Bedrockを使用したドキュメント要約システムを構築しています。毎晩10万件以上のドキュメントを処理する必要がありますが、結果はリアルタイムでは不要で翌朝までに完了していれば十分です。オンデマンド推論では頻繁にスロットリングが発生しており、Provisioned Throughputはコストが高すぎます。最もコスト効率が高い解決策はどれですか?

A
Amazon Bedrock Batch Inferenceを使用し、JSONL形式の入力ファイルをS3にアップロードして非同期バッチジョブとして処理する
✓ 正解
Amazon Bedrock Batch Inferenceは、大量リクエストを非同期でまとめて処理するマネージド機能であり、オンデマンド推論と比較して最大50%のコスト削減が可能です。S3にJSONL形式の入力ファイルをアップロードしてバッチジョブを作成するだけで実装でき、スロットリングも発生しません。リアルタイム性が不要なユースケースに最適です。
B
AWS Step Functionsを使用してLambda関数をオーケストレーションし、指数バックオフ(exponential backoff)で再試行ロジックを実装する
AWS Step Functionsを使用したLambda関数のオーケストレーションは、運用複雑度が高くなります。
C
Amazon SQSキューでリクエストをバッファリングし、複数のLambda関数で並列処理してスロットリングを回避する
Amazon SQSでのバッファリングは、複数のLambda関数での並列処理では指数バックオフで再試行ロジックを実装する必要があり複雑です。
D
Amazon EventBridgeスケジューラーを使用してBedrock API呼び出しを1分ごとに均等に分散させる
Amazon EventBridgeスケジューラーでのAPI呼び出しの分散は、スループット向上に限界があります。

解説

Amazon Bedrock Batch Inferenceは、大量リクエストを非同期でまとめて処理するマネージド機能であり、オンデマンド推論と比較して最大50%のコスト削減が可能です。S3にJSONL形式の入力ファイルをアップロードしてバッチジョブを作成するだけで実装でき、スロットリングも発生しません。リアルタイム性が不要なユースケースに最適です。 選択肢BのAWS Step Functionsを使用したLambda関数のオーケストレーションは、運用複雑度が高くなります。 選択肢CのAmazon SQSでのバッファリングは、複数のLambda関数での並列処理では指数バックオフで再試行ロジックを実装する必要があり複雑です。 選択肢DのAmazon EventBridgeスケジューラーでのAPI呼び出しの分散は、スループット向上に限界があります。

ドメイン別正答率・予想スコアでリアルタイムに実力把握

無限ノックでAIPを徹底対策。全問AI生成のオリジナル問題。

無料で演習を始める →
← AIP の問題一覧に戻る