卷積神經網絡（二）{Keras 由淺入深}

卷積神經網絡（二）

TensorFlow	Keras

python & mathematics

---

卷積神經網絡卷積是基本的操作，但是在構建神經網絡的過程中，過擬合現象和收斂速度慢都是很容易出現的問題，本文就這兩個問題進行分析和提出解決方法。

過擬合

局部響應標準化（lrn）：一般放於relu函數後
正則化：一般有L1, L2對權值進行操作;L1是對權值的一階操作，一般用於特徵選擇，L2是對權值的二階操作，一般用於防止過擬合

正則化：https://www.jianshu.com/p/569efedf6985

收斂速度慢

歸一化：歸一化能將樣本分佈變得簡單，有助於計算機的處理，在訓練的時候能更好的找到最優點。

https://www.jianshu.com/p/1c505319b2f0

Adam一般選用Adam優化器

http://www.sohu.com/a/226332315_633698