原创 7.、隱馬爾可夫(HMM)/感知機/條件隨機場(CRF)----詞性標註

文章目錄7. 詞性標註7.1 詞性標註概述7.2 詞性標註語料庫與標註集7.3 基於隱馬爾可夫模型的詞性標註7.4 基於感知機的詞性標註7.5 基於條件隨機場的詞性標註7.6 詞性標註評測7.7 自定義詞性7.8 GitHub 筆

原创 HanLP《自然語言處理入門》筆記--6.條件隨機場與序列標註

文章目錄6. 條件隨機場與序列標註6.1 機器學習的模型譜系6.2 條件隨機場6.3 條件隨機場工具包6.4 HanLP中的CRF++ API6.5 GitHub 筆記轉載於GitHub項目:https://github.com/

原创 HanLP《自然語言處理入門》筆記--1.新手上路

文章目錄1. 新手上路1.1 自然語言與編程語言的比較1.2 自然語言處理的層次1.3 自然語言處理的流派1.4 機器學習1.5 語料庫1.6 開源工具1.7 總結1.8 GitHub項目 1. 新手上路 自然語言處理(Natur

原创 推薦系統--完整的架構設計和算法(協同過濾、隱語義)

1. 什麼是推薦系統 推薦系統是利用電子商務網站向客戶提供商品信息和建議,幫助用戶決定應該購買什麼產品,模擬銷售人員幫助客戶完成購買過程。個性化推薦是根據用戶的興趣特點和購買行爲,向用戶推薦用戶感興趣的信息和商品。 隨着電子商務規

原创 Attention機制的精要總結,附:中英文機器翻譯的實現!

1. 什麼是Attention機制 在“編碼器—解碼器(seq2seq)”⼀節⾥,解碼器在各個時間步依賴相同的背景變量來獲取輸⼊序列信息。當編碼器爲循環神經⽹絡時,背景變量來⾃它最終時間步的隱藏狀態。 現在,讓我們再次思考那⼀節提

原创 textRNN & textCNN的網絡結構與代碼實現!

1. 什麼是textRNN textRNN指的是利用RNN循環神經網絡解決文本分類問題,文本分類是自然語言處理的一個基本任務,試圖推斷出給定文本(句子、文檔等)的標籤或標籤集合。 文本分類的應用非常廣泛,如: 垃圾郵件分類:2分

原创 四步理解GloVe!(附代碼實現)

文章目錄1. 說說GloVe2. GloVe的實現步驟2.1 構建共現矩陣2.2 詞向量和共現矩陣的近似關係2.3 構造損失函數2.4 訓練GloVe模型3. GloVe與LSA、Word2Vec的比較4. 代碼實現5. 參考文獻

原创 NLP系列文章:子詞嵌入(fastText)的理解!(附代碼)

文章目錄1. 什麼是fastText2. n-gram表示單詞3. fastText模型架構4. fastText核心思想5. 輸出分類的效果6. fastText與Word2Vec的不同7. 代碼實現8. 參考文獻 1. 什麼是

原创 神經網絡優化算法:Dropout、梯度消失/爆炸、Adam優化算法,一篇就夠了!

1. 訓練誤差和泛化誤差 機器學習模型在訓練數據集和測試數據集上的表現。如果你改變過實驗中的模型結構或者超參數,你也許發現了:當模型在訓練數據集上更準確時,它在測試數據集上卻不⼀定更準確。這是爲什麼呢? 因爲存在着訓練誤差和泛化誤

原创 通俗易懂--循環神經網絡(RNN)的網絡結構!(TensorFlow實現)

文章目錄1. 什麼是RNN1.1 RNN的應用1.2 爲什麼有了CNN,還要RNN?1.3 RNN的網絡結構1.4 雙向RNN1.5 BPTT算法2. 其它類型的RNN3. CNN與RNN的區別4. 爲什麼RNN 訓練的時候Los

原创 自然語言處理(NLP)的一般處理流程!

文章目錄1. 什麼是NLP2. NLP主要研究方向3. NLP的發展4. NLP任務的一般步驟5. 我的NLP啓蒙讀本6. NLP、CV,選哪個? 1. 什麼是NLP 自然語言處理 (Natural Language Proces

原创 三步理解--門控循環單元(GRU),TensorFlow實現。

文章目錄1. 什麼是GRU2. ⻔控循環單元2.1 重置門和更新門2.2 候選隱藏狀態2.3 隱藏狀態3. 代碼實現GRU4. 參考文獻 1. 什麼是GRU 在循環神經⽹絡中的梯度計算⽅法中,我們發現,當時間步數較⼤或者時間步較小

原创 白話--長短期記憶(LSTM)的幾個步驟,附代碼!

文章目錄1. 什麼是LSTM2. 輸⼊⻔、遺忘⻔和輸出⻔3. 候選記憶細胞4. 記憶細胞5. 隱藏狀態6. LSTM與GRU的區別7. LSTM可以使用別的激活函數嗎?8. 代碼實現9. 參考文獻 1. 什麼是LSTM 在你閱讀這

原创 遷移學習(Transfer),面試看這些就夠了!(附代碼)

1. 什麼是遷移學習 遷移學習(Transfer Learning)是一種機器學習方法,就是把爲任務 A 開發的模型作爲初始點,重新使用在爲任務 B 開發模型的過程中。遷移學習是通過從已學習的相關任務中轉移知識來改進學習的新任務,

原创 強化學習(Reinforcement Learning)中的Q-Learning、DQN,面試看這篇就夠了!

文章目錄1. 什麼是強化學習2. 強化學習模型2.1 打折的未來獎勵2.2 Q-Learning算法2.3 Deep Q Learning(DQN)2.3.1 神經網絡的作用2.3.2 神經網絡計算Q值3. 強化學習和監督學習、無