無限ノック › AIF 練習問題一覧 › 問題
AIF基盤モデルのアプリケーション

ある企業が、Amazon Bedrock 上の大規模な基盤モデルを使った業務処理システムを運用しています。応答品質には満足しているものの、1リクエストあたりの推論コストとレイテンシーが課題となっています。この企業は、自社の業務シナリオにおける大規模モデルの応答品質を維持しながら、より小さく安価なモデルを作成してコストとレイテンシーを削減したいと考えています。Amazon Bedrock が提供するこのユースケースに最も適した機能はどれですか?

A
Amazon Bedrock のファインチューニング(Fine-tuning)で、人手でラベル付けした入出力ペアデータを使って小規模モデルを業務に特化させる
ファインチューニングは人間がラベル付けした入出力ペアデータでモデルを特化させる手法ですが、大規模モデルの知識を自動転移する仕組みではなく、ラベル付けコストも発生します。
B
Amazon Bedrock のモデル蒸留(Model Distillation)で、大規模モデルが生成した応答を教師データとして小規模モデルをトレーニングする
✓ 正解
Amazon Bedrock のモデル蒸留(Model Distillation)は、大規模な「教師モデル(teacher model)」が業務シナリオに対して生成した応答を合成トレーニングデータとして活用し、より小さな「生徒モデル(student model)」をファインチューニングする機能です。これにより大規模モデルの応答品質を小規模モデルに転移させつつ、推論コストとレイテンシーを大幅に削減できます。
C
Amazon Bedrock の継続事前学習(Continued Pre-training)で、社内のラベルなし文書を使って小規模モデルのドメイン知識を強化する
継続事前学習はラベルなし文書でモデルのドメイン知識を拡充する手法であり、大規模モデルの応答品質を引き継ぐことはできません。
D
Amazon Bedrock Knowledge Bases で社内データをインデックス化し、小規模モデルに RAG を組み合わせて応答品質を補完する
Knowledge Bases による RAG は外部ドキュメントを参照して品質を補完しますが、モデル自体を軽量化する解決策ではなく、推論コストとレイテンシーの根本的な削減にはなりません。

解説

Amazon Bedrock のモデル蒸留(Model Distillation)は、大規模な「教師モデル(teacher model)」が業務シナリオに対して生成した応答を合成トレーニングデータとして活用し、より小さな「生徒モデル(student model)」をファインチューニングする機能です。これにより大規模モデルの応答品質を小規模モデルに転移させつつ、推論コストとレイテンシーを大幅に削減できます。 選択肢Aのファインチューニングは人間がラベル付けした入出力ペアデータでモデルを特化させる手法ですが、大規模モデルの知識を自動転移する仕組みではなく、ラベル付けコストも発生します。 選択肢Cの継続事前学習はラベルなし文書でモデルのドメイン知識を拡充する手法であり、大規模モデルの応答品質を引き継ぐことはできません。 選択肢DのKnowledge Bases による RAG は外部ドキュメントを参照して品質を補完しますが、モデル自体を軽量化する解決策ではなく、推論コストとレイテンシーの根本的な削減にはなりません。

ドメイン別正答率・予想スコアでリアルタイムに実力把握

無限ノックでAIFを徹底対策。全問AI生成のオリジナル問題。

無料で演習を始める →
← AIF の問題一覧に戻る