神經網絡中的激活函數、優化方法

一文概覽深度學習中的激活函數：

https://blog.csdn.net/uwr44uouqcnsuqb60zk2/article/details/78441062

BERT中的GELU：

https://www.cnblogs.com/shiyublog/p/11121839.html

神經網絡中的各種優化方法：

https://blog.csdn.net/autocyz/article/details/83114245