AIP基盤モデルの統合、データ管理、コンプライアンス
ある製薬会社が、平均300ページ（約180,000トークン相当）の研究論文を一括解析して薬物相互作用サマリーを構造化JSONで出力するシステムをAmazon Bedrockで構築しています。月次バッチで2,000件処理する計画で、コスト最小化が最優先事項です。レイテンシーは問わないが、文書全体にわたる情報の整合性確保が必須条件となります。最もコスト効率よく要件を満たす実装はどれですか。
AAmazon Titan Text G1 Expressのバッチ推論APIを利用し、文書を8,000トークン単位に分割してLambdaでマップリデュース統合するパイプラインを構築する
Amazon Titan Text G1 Expressはコンテキスト上限が8Kトークンのため分割処理が必須となり、文書全体の整合性確保と実装複雑化が課題となる。
BClaude 3.5 SonnetをStep Functionsでオーケストレーションしてオンデマンド呼び出しし、200Kコンテキストウィンドウで文書全体を1回のAPIコールで処理する
Claude 3.5 Sonnetは200Kコンテキストに対応するが、オンデマンド呼び出しはバッチAPIより高額であり、コスト最小化要件に対して最適でない。
CClaude 3 HaikuのBedrockバッチ推論APIを使用し、200Kコンテキストで文書全体を処理してオンデマンド料金比最大50%のコスト削減を実現する
✓ 正解
Claude 3 Haikuは200Kコンテキストウィンドウを持つClaudeファミリー最低コストモデルで、バッチ推論APIとの組み合わせで最大50%の追加割引が適用される。
DMeta Llama 3.1 70Bをオンデマンドで呼び出し、128Kコンテキストウィンドウを活用してオープンソースモデルのコスト優位性を活かす
Meta Llama 3.1 70Bの128Kコンテキストは約180,000トークンの文書を収容できず、文書全体の整合性確保という必須要件を満たせない。
解説
Claude 3 Haikuは200Kコンテキストウィンドウを持つClaudeファミリー最低コストモデルであり、Bedrockバッチ推論API併用でオンデマンド比最大50%のコスト削減が実現できる。
ドメイン別正答率・予想スコアでリアルタイムに実力把握
無限ノックでAIPを徹底対策。全問AI生成のオリジナル問題。
無料で演習を始める →