あるゲームスタジオが Amazon Bedrock で Claude 3 Opus を使用してゲーム内ナラティブ(物語テキスト)の生成システムを本番稼働させています。応答品質は非常に高いですが、月間 800 万リクエストにスケールするとコストが予算の 3 倍を超える見込みです。過去 1 年間の本番環境で収集した 40 万件のプロンプト(入力のみ、応答ログは保存していない)を活用して、より低コストな小型モデルを構築したいと考えています。ソリューションアーキテクトが Amazon Bedrock Model Distillation を提案しました。標準的な指示ファインチューニング(IFT: Instruction Fine-Tuning)と比較した場合の Model Distillation の最大の違いとして正しいものはどれですか?
Amazon Bedrock Model Distillation では、カスタマーが用意するのは「プロンプト(入力)のみ」です。ティーチャーモデル(大型の高性能モデル)がそれらのプロンプトに対して自動的に応答を生成し、その出力がスチューデントモデル(小型モデル)のファインチューニング用教師データとして使用されます。応答ログを事前に保存していなくても本番プロンプトを再利用できる点が大きな利点です。 選択肢Bの Model Distillation は CPT(ラベルなしテキストでの継続学習)ではなく、ティーチャーモデルが生成した応答を教師ラベルとして用いるファインチューニングです。 選択肢Cの Bedrock Model Distillation は明示的に指定したティーチャーモデルを使用します。スチューデント自身の出力でイテレーティブに学習する「自己蒸留」とは異なる仕組みです。 選択肢Dの IFT はラベル付きペアデータを人間または既存システムが用意するのに対し、Distillation はティーチャーモデルがラベルを自動生成するため、データ準備コストと仕組みが根本的に異なります。