檢索式模型介紹（四）
- 這個系列的文章主要是介紹一些可以作爲文本匹配工作的一些模型，有些是比較基礎的算法，例如bm25。有些模型是基於深度學習的架構，比如說deepMatch模型。個人認爲文本匹配的任務有兩種實現方式，一個是學習不同domain中text的represation，然後利用represation計算score，這個的score可以是相似度（cosine，歐式距離等）。當然一般的處理是直接用dot pruduct。 第二種方式是利用sentence中不同詞的特徵直接計算相似度。這類的方法如deepMatch等。
- 當然，大部分的算法模型，都是從相關的論文裏面總結，由於個人水品有限，還是會有一些疏漏，請多多指正。
- 本片blog介紹的模型有aNMM-1，aNMM-2，HyperQA，BiMPM，Compare-aggregate Model，IWAN以及MCAN。
十六 aNMM[1]
16.1 簡介
本文是基於value-shared weighted的一種改進的語義匹配模型。常見的cnn結構是position-shared weight。也就是說在cnn的卷積核中，相對位置一樣的地方權重是一樣的。如下圖所示，相同顏色的部分表示在卷積核中的權重是一樣的。
這種cnn的特徵的缺陷是在一個sentence中，文本語義不可能有這種在位置上特殊規律。所以本文在cnn的基礎上提出了value-shared weighted的一種語義匹配模型。表示的含義是，在輸