無限ノック › AIP 練習問題一覧 › 問題
AIP実装と統合

あるゲームスタジオが Amazon Bedrock で Claude 3 Opus を使用してゲーム内ナラティブ(物語テキスト)の生成システムを本番稼働させています。応答品質は非常に高いですが、月間 800 万リクエストにスケールするとコストが予算の 3 倍を超える見込みです。過去 1 年間の本番環境で収集した 40 万件のプロンプト(入力のみ、応答ログは保存していない)を活用して、より低コストな小型モデルを構築したいと考えています。ソリューションアーキテクトが Amazon Bedrock Model Distillation を提案しました。標準的な指示ファインチューニング(IFT: Instruction Fine-Tuning)と比較した場合の Model Distillation の最大の違いとして正しいものはどれですか?

A
Model Distillation では入力プロンプトのみを提供すればよく、ティーチャーモデル(Claude 3 Opus)が自動的に応答を生成してスチューデントモデルのトレーニングデータとして使用されるため、人手によるラベリングや応答ログの事前収集が不要である。
✓ 正解
Amazon Bedrock Model Distillation では、カスタマーが用意するのは「プロンプト(入力)のみ」です。ティーチャーモデル(大型の高性能モデル)がそれらのプロンプトに対して自動的に応答を生成し、その出力がスチューデントモデル(小型モデル)のファインチューニング用教師データとして使用されます。応答ログを事前に保存していなくても本番プロンプトを再利用できる点が大きな利点です。
B
Model Distillation は CPT(継続事前学習)の一種であり、プロンプトと応答のペアではなくラベルなしテキストのみで学習する。そのため IFT より少ないデータ量で高い効果が得られる。
Model Distillation は CPT(ラベルなしテキストでの継続学習)ではなく、ティーチャーモデルが生成した応答を教師ラベルとして用いるファインチューニングです。
C
Model Distillation ではスチューデントモデル自身の出力をイテレーティブに教師データとして使用する自己蒸留(Self-Distillation)を採用しており、別途ティーチャーモデルを指定する必要はない。
Bedrock Model Distillation は明示的に指定したティーチャーモデルを使用します。スチューデント自身の出力でイテレーティブに学習する「自己蒸留」とは異なる仕組みです。
D
Model Distillation と IFT は技術的に同一の仕組みであり、唯一の違いは課金方式(トレーニングトークン数 vs モデルユニット時間)のみである。
IFT はラベル付きペアデータを人間または既存システムが用意するのに対し、Distillation はティーチャーモデルがラベルを自動生成するため、データ準備コストと仕組みが根本的に異なります。

解説

Amazon Bedrock Model Distillation では、カスタマーが用意するのは「プロンプト(入力)のみ」です。ティーチャーモデル(大型の高性能モデル)がそれらのプロンプトに対して自動的に応答を生成し、その出力がスチューデントモデル(小型モデル)のファインチューニング用教師データとして使用されます。応答ログを事前に保存していなくても本番プロンプトを再利用できる点が大きな利点です。 選択肢Bの Model Distillation は CPT(ラベルなしテキストでの継続学習)ではなく、ティーチャーモデルが生成した応答を教師ラベルとして用いるファインチューニングです。 選択肢Cの Bedrock Model Distillation は明示的に指定したティーチャーモデルを使用します。スチューデント自身の出力でイテレーティブに学習する「自己蒸留」とは異なる仕組みです。 選択肢Dの IFT はラベル付きペアデータを人間または既存システムが用意するのに対し、Distillation はティーチャーモデルがラベルを自動生成するため、データ準備コストと仕組みが根本的に異なります。

ドメイン別正答率・予想スコアでリアルタイムに実力把握

無限ノックでAIPを徹底対策。全問AI生成のオリジナル問題。

無料で演習を始める →
← AIP の問題一覧に戻る