李宏毅:Highway Network & Grid LSTM

1、Feedforward vs Recurrent

2、Highway Network

GRU是有reset gate的,而highway network沒有reset gate。reset gate是爲了忘記之前的input。

update gate是input gate和forget gate的綜合。input gate和forget gate是聯動的

4、Grid LSTM

 

 

 

 

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章