無限ノック › AIP 練習問題一覧 › 問題
AIP生成AIアプリケーションの運用効率と最適化

金融サービス企業は、Amazon BedrockでClaude 3.5 Sonnetを使用した複雑な財務分析タスクで高精度(正解率92%)を実現しています。しかし、月間API推論コストが予算の3倍に達しており、コスト削減が急務です。ビジネス要件として、品質は現在の85%以上を維持する必要があります。同社はすでに数万件の財務分析の入出力ログをS3に蓄積しています。最もコスト効率が高い解決策はどれですか?

A
Bedrock Provisioned Throughputを月次コミットで購入し、Claude 3.5 Sonnetのオンデマンドコストを削減する
月次コミットで割引が得られますが、コスト構造の根本的改善ではなく、削減効果は限定的です。
B
Amazon Bedrockのモデル蒸留(Model Distillation)機能を使用し、Claude 3.5 Sonnetを教師モデルとして蓄積した呼び出しログから小規模な学生モデルをトレーニングする
✓ 正解
蓄積した呼び出しログから小規模学生モデルに知識を転移し、教師モデルの高精度を維持しつつ推論コストを大幅削減できます。要件を完全に満たします。
C
Claude 3 Haikuに直接切り替え、プロンプトエンジニアリングのみで品質ギャップを埋める
直接切り替えではプロンプトエンジニアリングだけでは品質85%維持の保証が困難であり、同じプロンプトで大幅に品質低下するリスクが高いです。
D
Amazon SageMaker JumpStartでLlama 3.1 8Bをホストし、コスト削減と品質確保を両立する
財務分析に特化していない汎用モデルのため品質要件85%以上を満たす保証がなく、GPUインスタンス運用・管理コストも別途発生します。

解説

正解: Amazon Bedrockのモデル蒸留(Model Distillation)機能を使用し、Claude 3.5 Sonnetを教師モデルとして蓄積した呼び出しログから小規模な学生モデルをトレーニングする。 Bedrock Model Distillation(モデル蒸留)は、大規模な教師モデル(例:Claude 3.5 Sonnet)の推論動作を小規模な学生モデルに転移する機能です。蓄積済みの呼び出しログ(invocation logs)を合成トレーニングデータとして活用でき、ドメイン固有タスクで教師モデルの高精度を維持しつつ推論コストを大幅削減できます。Provisioned Throughputは割引効果が限定的で根本的なコスト構造は変わりません。Haiku切り替えだけでは品質85%維持の保証が困難です。SageMaker JumpStartでLlama 3.1 8Bをホストする場合、財務分析に特化していない汎用モデルのため品質要件(85%以上)を満たせない可能性が高く、GPUインスタンスの運用コストや管理オーバーヘッドも別途発生するためコスト効率に優れません。

ドメイン別正答率・予想スコアでリアルタイムに実力把握

無限ノックでAIPを徹底対策。全問AI生成のオリジナル問題。

無料で演習を始める →
← AIP の問題一覧に戻る