無限ノック › AIP 練習問題一覧 › 問題
AIP生成AIアプリケーションの運用効率と最適化

医療分析企業が毎日 800,000 件の患者診療記録から臨床サマリーノートを生成する必要があります。処理は 12 時間以内(夜間バッチウィンドウ)に完了すれば十分であり、リアルタイム応答は不要です。現在は Lambda 関数プールで InvokeModel API を同期呼び出ししており、ThrottlingException が頻発しコストも高騰しています。コストを削減しスロットリングを解消する方法として最もコスト効率が高いものはどれですか?

A
Lambda の最大同時実行数を 1,000 に増やし、指数バックオフとリトライロジックを追加して全 800,000 件をオンデマンド API 呼び出しで並列処理する
Lambda 並列処理を増やしてもオンデマンド料金での同期 API 呼び出しに変わりなくコスト削減になりません。また Bedrock の API レート制限は引き続き適用されるため ThrottlingException の根本解消にもなりません。
B
Amazon Bedrock Provisioned Throughput で処理量に見合うキャパシティを予約し、大規模な Lambda 並列呼び出しでバッチ全件を継続的に処理する
Provisioned Throughput はスロットリングを解消できますが、800,000 件/日の処理に必要な大規模キャパシティを常時予約するコストは高く、Batch Inference が提供する最大 50% のコスト削減には及びません。
C
全 800,000 件を S3 上の JSONL ファイルにまとめて Bedrock Batch Inference ジョブとして送信し、非同期処理とオンデマンド比最大 50% のコスト削減を実現する
✓ 正解
Bedrock Batch Inference は S3 上の JSONL でリクエストをまとめて非同期送信する設計で、ThrottlingException を排除しながらオンデマンド比最大 50% のコスト削減を実現します。12 時間バッチウィンドウの要件にも最適です。
D
Amazon SageMaker 非同期推論エンドポイントで基盤モデルをセルフホスティングし、Bedrock の API スロットリング制限を回避して大量リクエストを処理する
SageMaker 非同期推論エンドポイントはスロットリングを回避できますが、モデルのセルフホスティングにはインフラ管理・スケーリング設計・継続的な保守コストが伴い、Bedrock の管理サービスより運用複雑性が大幅に増します。

解説

Amazon Bedrock Batch Inference は、大量のリクエストを S3 上の JSONL 形式でまとめて送信し、Bedrock が非同期で処理して結果を S3 に書き込む機能です。オンデマンド料金と比較して最大 50% のコスト削減が可能で、スロットリングは Bedrock 側で内部管理されるため ThrottlingException が発生しません。12 時間以内に完了すれば十分というバッチウィンドウの要件にも最適で、既存の同期アーキテクチャを大幅に簡素化できます。 選択肢Aの Lambda 並列数拡大はオンデマンド料金のまま変わらずコスト削減にならず、API レート上限に対するスロットリングも引き続き発生します。 選択肢Bの Provisioned Throughput は 800,000 件/日の大量処理に必要な大規模キャパシティを継続的に予約するコストが高く、Batch Inference の 50% 割引には及びません。 選択肢Dの SageMaker 非同期推論エンドポイントはモデルのセルフホスティングのため、インフラのプロビジョニング・スケーリング・モデル管理をすべて自社で担う必要があり運用複雑性が大幅に増します。

ドメイン別正答率・予想スコアでリアルタイムに実力把握

無限ノックでAIPを徹底対策。全問AI生成のオリジナル問題。

無料で演習を始める →
← AIP の問題一覧に戻る