RNN和LSTM理解結構圖

一篇講解RNN輸出與狀態之間區別的文章，很多手繪講解圖：https://zhuanlan.zhihu.com/p/28919765
以下圖片摘自https://www.jianshu.com/p/f3bde26febed

RNN結構圖：

內部循環展開的爲hidden state,即ht

LSTM分解步驟圖：

C（cell state）爲貫穿整個循環過程中的狀態（Ct爲t時刻狀態），包括了所有的狀態。我個人理解相當於貫穿始終的倉庫。
並且整個過程由遺忘門，輸入門，輸出門來控制Ct的增加與刪除。

• 遺忘門控制 保留多少Ct-1
• 輸入門控制 從ht-1和xt-1中增加多少東西到Ct-1中,兩者構成Ct
• 輸出門控制 從Ct中選取多少內容作爲新的t時刻的輸出，即ht

對於一個LSTM單元來說，輸入xt,ht-1,Ct-1 ，輸出ht,Ct
具體見下圖：