ベイズ最適化

今日はアンサンブル。

DNN と RF の結果を重み付き多数決に利用（といっても2種ですが）。
重みはベイズ最適化で決定。
できたアンサンブルモデルにテストデータを放り込み、AUC  (or acc) を計算。

これだけ。拍子抜けするくらい簡単でした。

ベイズ最適化は初体験。参考書を読みましたが、考え方は理解し易いと思います。ライブラリも複数用意されており、組むのも簡単（今回は Win、Linux の両方で動く scikit-optimize を利用。 ありがとうPython !）。アンサンブルを組めたことよりも、良い最適化ツールを知りえたことの方がありがたいですね。試行した甲斐がありました。
今回は大局的極大値探索にベイズ最適化を利用しましたが、グリッドサーチの代用にする手もあるようです。総当たりにはならないでしょうから処理が速くなるでしょうね。

基本の習得まであと少し。
まだ先は見えていませんが、一歩づつ、スタートラインに近づいてきたような気がします。

*********************************
win で conda update を複数かけていたら、動かなくなりました。
Linux ＋ Docker の優位さをあらためて感じます。

Anaconda を一度削除し、再インストール。続いて、必要なライブラリもインストール。
python 3.7 でしたが、TensorFlow 入りましたね。