AIの訓練では、学習過程が効率的に進むよう適切なストップポイントを把握することが重要です。
モデルの「損失値」をグラフで見ることで、訓練データをどれだけうまく取り込んでいるかの指標になります。この値は、訓練が進むにつれて徐々に減少します。しかし、訓練を過剰に行いすぎると、モデルは特定のデータに過剰に適合し、新しいデータに対してうまく機能しなくなるリスクがあります。
このような「オーバーフィッティング」の問題を防ぐためには、一部のデータセットを訓練から隔離し、そのデータでモデルの妥当性を検証する「バリデーション」が効果的です。
バリデーショングラフを参照することで、訓練の進捗が適切かどうかがわかります。
また、学習率を調整することで、モデルが適切なタイミングで適切な精度に達するよう制御することができます。
訓練が必要十分であるかの判断を助ける「LRファインダー」などのツールも活用して、最適な学習率を見つけることができます。
出典 : Fine-Tuning Stable Diffusion With Validation https://medium.com/@damian0815/fine-tuning-stable-diffusionwith-validation-3fe1395ab8c3
