AIP実装と統合
あるeコマース企業がAmazon Bedrockで商品説明文生成モデルのファインチューニングを実施しました。トレーニング後の評価で、トレーニングデータに対するロスは低いが、ホールドアウト検証データに対するロスが著しく高い（過学習）状態が確認されました。次のファインチューニング実行でこの問題を改善するために最も効果的なアプローチはどれですか？
AlearningRate（学習率）を10倍に増やして、モデルをより速く最適解に収束させる
learningRateを増やすと学習が不安定になりさらに過学習が悪化。
BepochCount（エポック数）を現在の値より減らし、トレーニングデータを過度に記憶する前に学習を早期停止する
✓ 正解
B: epochCount（エポック数）を現在の値より減らし、トレーニングデータを過度に記憶する前に学習を早期停止する。
過学習（オーバーフィッティング）の主因はエポック数が多すぎることによるトレーニングデータへの過度な適応。epochCount（エポック数）を減らして早期停止することが最も直接的な対処法。
CbatchSize（バッチサイズ）を可能な限り小さくして、勾配更新の頻度を最大化する
batchSizeを小さくするとノイジーな勾配更新により汎化性能が改善する場合もあるが、過学習の主要因への対処としてはepochCount削減が優先。
DlearningRateWarmupSteps（学習率ウォームアップステップ数）を大幅に増やして学習序盤の安定性を高める
learningRateWarmupStepsを増やすことは過学習対策の主要因ではない。
解説
過学習（オーバーフィッティング）の主因はエポック数が多すぎることによるトレーニングデータへの過度な適応です。epochCount（エポック数）を減らして早期停止することが最も直接的な対処法です。
選択肢AのlearningRateを増やすと学習が不安定になり、さらに過学習が悪化します。
選択肢CのbatchSizeを小さくするとノイジーな勾配更新により汎化性能が改善する場合もあるが、過学習の主要因への対処としてはepochCount削減が優先されます。
選択肢DのlearningRateWarmupStepsを増やすことは過学習対策の主要因ではありません。
ドメイン別正答率・予想スコアでリアルタイムに実力把握
無限ノックでAIPを徹底対策。全問AI生成のオリジナル問題。
無料で演習を始める →