無限ノック › AIP 練習問題一覧 › 問題AIP 生成AIアプリケーションの運用効率と最適化
メディア企業がAmazon Bedrockで以下の2タスクを並行して実装します:
タスクA:SNS投稿コンテンツモデレーション(有害・無害の2値分類)
- 1日100万件の短文テキスト
- 高スループット・低コストが優先
タスクB:特集記事の自動生成
- 1日500件の詳細記事(高品質な文体・論理構成が必要)
- 品質優先
コスト効率と品質要件の両立の観点から、最も適切なモデル割り当てはどれか?
A タスクA:Amazon Titan Text Express、タスクB:Claude 3 Opus
タスクBの特集記事生成にClaude 3 Opusを割り当てており、SonnetやHaikuと比べて大幅なコスト増となります。タスクBの品質要件はSonnetで十分に満たせるためOpusは過剰投資です。またタスクAのTitan Text ExpressとClaudeシリーズの混在でアーキテクチャが複雑化します。
B タスクA:Claude 3 Haiku、タスクB:Claude 3 Sonnet
✓ 正解
Claude 3 HaikuはSonnetと比較して約1/10のコストで高速に動作し、シンプルな2値分類に最適です。記事生成にはClaude 3 Sonnetの高品質な言語生成能力が必要で、タスクの複雑さに合わせたRight-sizingによりコストと品質を両立できます。
C タスクA・Bともに Claude 3 Sonnet(アーキテクチャ統一によるシンプル化)
タスクA・Bともに同一のSonnetを使用するアーキテクチャ統一案ですが、1日100万件の2値分類タスクにSonnetを使用するのはコスト非効率です。Haikuで十分に対応できる単純タスクに不要なコストをかけることになります。
D タスクA・Bともに Claude 3 Haiku(全体コスト最小化)
タスクA・Bともに軽量なHaikuに統一するコスト最小化案ですが、特集記事の自動生成には高品質な文体と論理的な長文生成能力が必要で、軽量モデルのHaikuでは品質要件を満たすことができません。
解説 生成AIコスト最適化の基本原則は「タスクの複雑さにモデルサイズを合わせるRight-sizing(適切なリソース選択)」です。2値分類のような単純タスクにはClaude 3 Haikuが最適で、高速かつ低コスト(Sonnet比約1/10)。高品質な記事生成にはClaude 3 Sonnetの豊かな言語能力が必要です。
選択肢AはタスクBの特集記事生成にClaude 3 Opusを使用しており、Sonnetと比較してコストが大幅に増加します。タスクBの品質要件はSonnetで十分に満たせるためOpusは過剰です。またタスクAにAmazon Titan Text Expressを採用することでClaudeシリーズとの混在によりアーキテクチャが複雑になります。
選択肢CはタスクA・Bともに同一のSonnetを使用するアーキテクチャ統一案ですが、1日100万件の2値分類タスクにSonnetを使用するのはコスト非効率です。Haikuで十分に対応できる単純タスクに不要なコストをかけることになります。
選択肢DはタスクA・Bともに軽量なHaikuに統一するコスト最小化案ですが、特集記事の自動生成には高品質な文体と論理的な長文生成能力が必要で、軽量モデルのHaikuでは品質要件を満たすことができません。
ドメイン別正答率・予想スコアでリアルタイムに実力把握
無限ノックでAIPを徹底対策。全問AI生成のオリジナル問題。
無料で演習を始める →