keras 序貫(Sequential)模型 常見設置

  1. 最近看了一些例子,keras在預測方面,Sequential 常見搭配如下

情感分析

embedding -> lstm -> dense

embedding 主要用於詞的one-hot 編碼, lstm 主要用於長距離記憶, dense 是全連接。

CTR 預測或者序列預測

lstm -> dense 就足夠了, 當然前面可以多個lstm。

  1. loss (目標函數)方面

loss='mean_squared_error' (均方誤差), 或者 loss='mae'(絕對值均差) 兩者選擇哪個都可以。

  1. optimizer(優化器)

optimizer='adam' 常見用法。metrics 常設置爲'accuracy'

  1. 激活函數

有很多,比如 Sigmoid、TanHyperbolic(tanh)、ReLu、 softplus以及softmax函數。但實際中經常使用的是 relu。具體可以查看這篇文章(https://blog.csdn.net/qrlhl/article/details/60883604)。

一般在lstm層數較多的時候使用relu,較少時使用默認的tanh

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章