注意力機制（Attention Mechanism） 相關博文彙總

---

1. Applying the four-step “Embed, Encode, Attend, Predict” framework to predict document similarity
   這個23頁的課件介紹瞭如何應用“嵌入，編碼，出席，預測”框架來預測文檔的相似性。

2. 從RNN、LSTM到Encoder-Decoder框架、注意力機制、Transformer
   該回答梳理了從RNN到注意力機制再到Transformer的發展流程。

3. 深度學習中的注意力模型（2017版）
   該回答從一個簡單的句子翻譯問題引出，介紹了注意力機制的原理。

4. Attention? Attention!
   該篇博文一直在更新，梳理了注意力機制的研究進展相關論文及實現代碼。博文目錄如下：
   

5. keras-attention-mechanism
   該倉庫使用keras實現了注意力機制，2k+star。關於這個倉庫的一個issues很有啓發意義：Questions on implementation details

6. keras實現Attention機制
   一位博主的GRU attention實現。