2018年2月28日水曜日

iteration と epoch

「H2Oで繰り返し回数を指定できました」と、後輩君。

「繰り返し回数」と聞き、何か行列の解法が必要だったか?と思ったのですが、epoch 数のことでした。下手に日本語にすると何を指しているのかわからなくなります。というか、epoch 数指定しないとダメでしょ。

と言いつつ、iteration と epoch の関係も忘れかけていたので整理。
例えば、データ件数 400 、ミニバッチ数 10 だと、40 iterations で 1 epoch。4000 iterations で100 epochs になります。

基本は損失関数の値と epoch 数のグラフにて、validation で最低になったあたりを採用しするようです。epoch 数が多すぎると過学習(過剰適合)ととなり、損失関数の値が上昇します。この手前でトレーニングデータでの学習を止めることになります。自動で止めることもできるようですが、挙動を見ていたほうが安心ですね。
Grid Search は flow で見当たりません。R か Python のコードはありますが、扱えないのでしょうか?

たまに使わないと、ダメですね。忘れないように使っていきましょう。


********************************
20180301
flow にもありました。目前に。なんと便利な。
https://github.com/h2oai/h2o-3/blob/master/h2o-docs/src/product/tutorials/random%20hyperparmeter%20search%20and%20roadmap.md


0 件のコメント:

コメントを投稿