本文假定讀者瞭解word2vec、emlo、BERT等模型。
那麼什麼是語言模型呢？或者說如何判斷一個模型是不是語言模型呢？
首先我們來看一下語言模型（LM）的兩個目標：
（1）LM的目的是爲一個句子或詞序列賦予一個概率。
（2）LM預測下一個詞的概率，也就是說它預測下面最有可能出現的一個詞。
任何一個具有上面任務的模型稱爲語言模型。如word2vec通過當前詞預測上下文詞，或通過上下文詞曲預測當前的目標詞。其他語言模型不再追述，有興趣的可以自行查閱資料。
參考：python自然語言處理