卷积神经网络（二）{Keras 由浅入深}

卷积神经网络（二）

TensorFlow	Keras

python & mathematics

---

卷积神经网络卷积是基本的操作，但是在构建神经网络的过程中，过拟合现象和收敛速度慢都是很容易出现的问题，本文就这两个问题进行分析和提出解决方法。

过拟合

局部响应标准化（lrn）：一般放于relu函数后
正则化：一般有L1, L2对权值进行操作;L1是对权值的一阶操作，一般用于特征选择，L2是对权值的二阶操作，一般用于防止过拟合

正则化：https://www.jianshu.com/p/569efedf6985

收敛速度慢

归一化：归一化能将样本分布变得简单，有助于计算机的处理，在训练的时候能更好的找到最优点。

https://www.jianshu.com/p/1c505319b2f0

Adam一般选用Adam优化器

http://www.sohu.com/a/226332315_633698