https://zhuanlan.zhihu.com/p/35062508
https://zhuanlan.zhihu.com/p/25005808
1.梯度消失和梯度爆炸
根源是神經網絡的天然屬性決定的：反向傳播，鏈式求導。
https://blog.csdn.net/qq_25737169/article/details/78847691
2.BN
bn本質上是爲了解決梯度消失和梯度爆炸問題。
https://blog.csdn.net/qq_25737169/article/details/79048516
3.常用的優化器