原创 自然語言處理NLP（10）——語義分析
在上一部分中，我們介紹了句法分析中的局部句法分析以及依存關係分析（自然語言處理NLP（9）——句法分析c：局部句法分析、依存關係分析），至此，繁複冗長的句法分析部分就結束了。 在這一部分中，我們將要介紹NLP領域的一個重要問題：語
2020-06-19 04:35:24
21
原创 神經網絡基礎：DNN、CNN、RNN、RvNN、梯度下降、反向傳播
在介紹神經網絡之前，首先介紹一下神經元模型。 神經元模型可以描述爲這樣的一張圖： 對於一個模型而言，我們首先要把握住四個部分：輸入、輸出、參數以及對應的運算關係。（這一點很重要） 在上圖所示的神經元模型中： 輸入爲XXX，輸出爲
2020-05-31 05:06:06
2
原创 自然語言處理NLP（9）——句法分析c：局部句法分析、依存關係分析
在上一部分中，我們介紹了基於規則法、概率統計法、神經網絡法的完全句法分析方法（自然語言處理NLP（8）——句法分析b：完全句法分析）。 在這一部分中，我們將介紹句法分析中的另外兩種類型：局部句法分析、依存關係分析。 【一】局部句法
2020-05-31 05:05:55
31
原创 差分隱私相關論文(1) —— Differential Privacy, Dwork 2006
之前也有提到過，因爲已經轉行差分隱私不搞NLP啦，所以之後的博客不會再更新NLP相關內容（儘管曾經的夢想是在NLP領域有所作爲哈哈哈），但是如果大家有什麼相關問題還是期待着一同討論喲~ 好了我們言歸正傳，本文向大家介紹2006年D
2020-03-15 04:40:56
11
原创 自然語言處理NLP（11）——篇章分析與指代消解
在上一部分中，我們介紹了語義分析的基本內容（自然語言處理NLP（10）——語義分析），重點介紹了格文法和語義角色標註（SRL）。 在這一部分中，我們將介紹篇章分析相關內容。 在介紹具體內容之前，我們首先要理解這樣一個問題：什麼是篇
2020-03-02 18:52:47
26
原创 自然語言處理NLP（8）——句法分析b：完全句法分析
在上一部分中，我們簡單介紹了完全句法分析的概念，並詳細介紹了句法分析的基礎：Chomsky形式文法（自然語言處理NLP（7）——句法分析a：Chomsky（喬姆斯基）形式文法）。 在這一部分中，我們將對完全句法分析進行詳細介紹。 回顧
2019-03-23 01:38:28
4
原创 神經網絡語言模型中，詞向量爲什麼可以隨着模型的迭代而改變？
在神經網絡語言模型中，通常我們認爲詞向量是模型的輸入。 對此不太熟悉的朋友可以參考博客：自然語言處理NLP（3）——神經網絡語言模型、詞向量 神經網絡語言模型的架構是這個樣子的： 然而，在模型訓練的過程中，輸入層的詞向量可以隨着模型
2019-03-12 22:27:28
2
原创 自然語言處理NLP（7）——句法分析a：Chomsky（喬姆斯基）形式文法
在上一部分中，我們介紹了NLP領域最基本的問題：詞法分析，現階段解決該問題最常用的方法就是將其轉化爲序列標註問題，根據解決序列標註問題的方法對其進行解決。 詞的問題解決了，那麼下一步，就是句法分析。 在這一部分中，我們介紹完全句法分析
2019-03-10 03:28:53
1
原创 自然語言處理NLP（6）——詞法分析
在上一部分中，我們介紹了NLP領域中的一個基本問題：序列標註問題，並對解決該問題的三種方法：HMM、CRF、RNN+CRF進行了介紹。 在這一部分中，我們將在語言結構層面對詞法分析進行介紹。 在瞭解了NLP架構之後（在博客：自然語言處
2019-02-27 20:34:41
5
原创 自然語言處理NLP（5）——序列標註b：條件隨機場（CRF）、RNN+CRF
在上一部分中，我們瞭解了序列標註問題以及解決該種問題的一種方法——隱馬爾科夫模型HMM：自然語言處理NLP（4）——序列標註a：隱馬爾科夫模型（HMM） 在這一部分中，我們將要介紹解決序列標註問題的另外兩種方法：條件隨機場（CRF），
2019-02-21 16:49:22
3
原创 自然語言處理NLP（4）——序列標註a：隱馬爾科夫模型（HMM）
在上一部分中，我們已經瞭解了神經網絡語言模型和詞向量：自然語言處理NLP（3）——神經網絡語言模型、詞向量 在對現階段NLP領域的最基本、最常用的架構有所瞭解之後，在這一部分中，我們將要介紹NLP領域最常見的一類問題：序列標註。 【一
2019-02-14 20:31:37
1
原创 自然語言處理NLP（3）——神經網絡語言模型、詞向量
在上一部分中，我們瞭解到了統計語言模型，n-gram模型以及語料庫的基本知識： 自然語言處理NLP（2）——統計語言模型、語料庫 在這一部分中，我們將在此基礎上介紹神經網絡語言模型以及詞向量的相關知識。 在介紹這些知識之前，我們首先對
2019-02-10 20:25:19
3
原创 神經網絡基礎：DNN、CNN、RNN、梯度下降、反向傳播
在介紹神經網絡之前，首先介紹一下神經元模型。 神經元模型可以描述爲這樣的一張圖： 對於一個模型而言，我們首先要把握住四個部分：輸入、輸出、參數以及對應的運算關係。（這一點很重要） 在上圖所示的神經元模型中： 輸入爲XXX，輸出爲YY
2019-02-01 20:46:53
原创 自然語言處理NLP（2）——統計語言模型、語料庫
在上一部分中，我們已經瞭解了自然語言處理的基本知識：自然語言處理NLP（1）——概述。 在這一部分中，我們將簡要介紹NLP領域的基本模型——語言模型，我們還將對自然語言處理的基礎——語料庫的概念進行介紹。這些都是在學習自然語言處理之前所必
2019-01-25 20:36:01
3
原创 自然語言處理NLP（1）——概述
本學期修讀了“自然語言處理”這門課，趁着假期把學到的東西整理一下~ 在瞭解自然語言處理相關知識之前，首先要知道什麼是自然語言處理、自然語言處理能幹什麼、怎麼來做自然語言處理。 【一】什麼是自然語言處理 個人認爲，自然語言處理（Natu
2019-01-25 20:36:01
1