AIP生成AIアプリケーションの運用効率と最適化

ある損害保険会社は、過去5年分の100万件の事故報告書(平均2,000字/件)に対して、Claude 3 Haikuモデルを用いた不正リスクスコアリングを毎週実行する必要があります。処理完了は翌日中で十分であり、リアルタイム応答は不要です。最もコスト効率が高いアーキテクチャはどれですか?

A
500個のAWS Lambda関数を並列起動し、InvokeModel APIでスロットリング対策として指数バックオフを実装する
500個のAWS Lambda関数を並列起動する方法はスロットリングと並行制御の複雑さが課題です。
B
Amazon Bedrockのバッチ推論(Batch Inference)機能を使用し、S3にJSONL形式で入力データを格納してバッチジョブを実行する
✓ 正解
Bedrock Batch Inferenceは非リアルタイムの大規模推論向けに設計されており、オンデマンド料金と比べて最大50%のコスト削減が可能です。JSONL形式の入力ファイルをS3に配置するだけでBedrockが自動的にスケーリングを管理します。
C
Amazon SageMaker非同期推論エンドポイントにClaudeモデルをデプロイし、大規模バッチ処理を実行する
Amazon SageMaker非同期推論エンドポイントにClaudeモデルをデプロイすることはできず、BedrockのモデルAPIを直接使用する必要があります。
D
AWS Fargateコンテナクラスターを起動し、Bedrock InvokeModel APIに並列リクエストを送信する
AWS Fargateコンテナクラスターはマネージドスケーリングの恩恵を受けにくく、APIスロットリング問題を解決しません。

解説

正解: Amazon Bedrockのバッチ推論(Batch Inference)機能を使用し、S3にJSONL形式で入力データを格納してバッチジョブを実行する。 Bedrock Batch Inferenceは非リアルタイムの大規模推論向けに設計されており、オンデマンド料金と比べて最大50%のコスト削減が可能です。JSONL形式の入力ファイルをS3に配置するだけでBedrockが自動的にスケーリングを管理します。 選択肢Aの500個のAWS Lambda関数を並列起動する方法はスロットリングと並行制御の複雑さが課題です。 選択肢CのAmazon SageMaker非同期推論エンドポイントにClaudeモデルをデプロイすることはできず、BedrockのモデルAPIを直接使用する必要があります。 選択肢DのAWS Fargateコンテナクラスターはマネージドスケーリングの恩恵を受けにくく、APIスロットリング問題を解決しません。

ドメイン別正答率・予想スコアでリアルタイムに実力把握

無限ノックでAIPを徹底対策。全問AI生成のオリジナル問題。

無料で演習を始める →
AIP の問題一覧に戻る