AIP生成AIアプリケーションの運用効率と最適化
グローバルEコマース企業がAmazon Bedrockを使用して商品説明文を生成するサービスを構築しています。月間100万件を処理する必要があり（月末3日間に60%が集中）、現在Claude 3 Opusをオンデマンドで使用していますがコストが予算の3倍超過しています。品質評価ではClaude 3 Sonnetが本ユースケースで十分な品質を示しています。レイテンシ要件は5秒以内です。最もコスト効率の高いアーキテクチャはどれですか？
AClaude 3 Opusのプロビジョンドスループット（ピーク処理能力分）を1ヶ月コミットで購入し、スループットを安定させる
Opusのプロビジョンドスループットはモデル単価自体がSonnetより大幅に高く、ピーク能力分を1ヶ月コミットしても非ピーク27日間に未使用分の課金が発生するため、予算超過を解消できずコスト効率が悪いです。
BClaude 3 Sonnetに切り替え、通常時（非ピーク27日間）はオンデマンド、ピーク3日間のみ必要最小限のプロビジョンドスループットを組み合わせるハイブリッド戦略を採用する
✓ 正解
Claude 3 SonnetはOpusより大幅に低コストで評価済みの品質要件を満たします。プロビジョンドスループットは未使用でも課金されるため、ピーク3日間のみ最小限のPTを併用し通常時はオンデマンドとするハイブリッドが最もコスト最適です。
CAmazon Bedrock Batch Inferenceを使用してClaude 3 Opusを非同期バッチ処理に移行し、オンデマンド比50%のコスト削減を実現する
Batch Inferenceはオンデマンド比で割引がありますが非同期のバッチ処理であり、結果が返るまで分〜時間単位かかる場合があるため、5秒以内のレイテンシ要件を満たせず本ユースケースには不適切です。
DClaude 3 Haikuに完全移行し、品質の低下をfew-shotプロンプティングとプロンプトキャッシングで補う
Haikuは最安ですが本ユースケースでの品質が未評価で、few-shotやプロンプトキャッシングは速度・コスト最適化の手段に過ぎず、Sonnet並みの品質を担保できる保証がないため品質リスクがあります。
解説
Claude 3 SonnetはOpusより大幅に低コストで、評価済みの品質要件を満たします。プロビジョンドスループット（PT）はコミット期間中は未使用でも課金されるため、常時PTを購入すると非ピーク時のコストが無駄になります。ピーク3日間のみPTを使用するハイブリッド戦略がコスト最適です。
選択肢A: OpusのピークPTではモデル単価が高く依然コスト超過。
選択肢C: Batch Inferenceは非同期処理のため5秒以内のレイテンシ要件を満たせません（完了まで数時間かかる場合があります）。
選択肢D: Haikuへの品質影響が未評価であり、プロンプトキャッシングのみでは品質担保が不確実です。
ドメイン別正答率・予想スコアでリアルタイムに実力把握
無限ノックでAIPを徹底対策。全問AI生成のオリジナル問題。
無料で演習を始める →