AIP実装と統合
医療系SaaS企業は、Amazon Bedrockでカルテ要約モデルをファインチューニング中です。モニタリングダッシュボードを確認したところ、トレーニング損失(training loss)は第1エポックから第10エポックまで継続的に低下していますが、バリデーション損失(validation loss)は第5エポックを底に第10エポックまで上昇し続けています。本番モデルの汎化性能を最大化するために、最初に取るべき対処はどれですか?
A学習率(learning rate)を現在の値の10倍に増やして損失収束を加速させる
学習率を10倍にすると勾配が大きく振動して収束が不安定になるうえ、過学習という現状の問題には全く対処できません。バリデーション損失はさらに悪化する可能性が高く、汎化性能向上の対処として不適切です。
Bエポック数(epochs)を20に増やしてトレーニングを継続し、バリデーション損失がさらに低下するか確認する
エポック数を20に増やすとトレーニング損失はさらに下がっても、バリデーション損失は第5エポック以降の上昇を続け過学習が一層進行します。汎化性能はむしろ劣化するため逆効果で不適切です。
Cバリデーション損失が最小だった第5エポック相当のモデルを採用し、次回ジョブではエポック数を5程度に設定する
✓ 正解
トレーニング損失低下中にバリデーション損失が上昇するのは過学習の典型であり、バリデーション損失が最小の第5エポック(early stopping点)のモデルが最も高い汎化性能を持ちます。次回はエポック5程度が適切です。
Dトレーニングデータを50%削減してモデルの表現能力に対するデータ量を調整する
データを50%削減するとモデルが学習できる情報量が減り、少ないデータをさらに暗記しやすくなって過学習が悪化する恐れがあります。最初に取るべき汎化性能改善の対処としては不適切です。
解説
トレーニング損失が低下し続けながらバリデーション損失が上昇するパターンは、過学習(overfitting)の典型的な症状です。モデルがトレーニングデータを暗記してしまい、未知データへの汎化能力が低下しています。
この場合、バリデーション損失が最小だったチェックポイント(early stopping点)である第5エポック相当のモデルが最高の汎化性能を持つため、これを採用し、次回ジョブではエポック数を5程度に設定するのが最適です。
選択肢Aは、学習率の増加は収束を不安定にし過学習を悪化させます。
選択肢Bは、エポック数の増加は過学習をさらに進行させます。
選択肢Dは、データ削減はかえって過学習を招くリスクがあります。
ドメイン別正答率・予想スコアでリアルタイムに実力把握
無限ノックでAIPを徹底対策。全問AI生成のオリジナル問題。
無料で演習を始める →