本次梳理基於Datawhale 第12期組隊學習 -CS224n-預訓練模塊 詳細課程內容參考(2019)斯坦福CS224n深度學習自然語言處理課程 1. 寫在前面 自然語言處理( NLP )是信息時代最重要的技術之一，也是人工智
Stanford官網下載緩慢，分享Stanford Parser2016安裝包 鏈接: https://pan.baidu.com/s/1DSwY_Njm_9WQFuNisR30Jw 提取碼: d6kf Stanford Parser圖
本節課內容概述： 本節課主要解釋了梯度消失和梯度爆炸問題以及其他類型的RNN 上節課將的是RNN以及爲什麼RNN適用於語言模型。 因爲它可以記住前面的信息。 梯度消失問題導致了新RNN的出現：LSTM和GRU 其他修復梯度消失或者梯度爆炸
本節課內容： 介紹一個新的任務：機器翻譯 介紹一個新的神經架構：序列到序列的模型 介紹一種新的神經技術：注意力，用於提升序列到序列的模型 第一部分：之前的機器翻譯方法 1950s：系統是基於規則實現的，使用一個雙語字典進行映射查詢 199
本次課主要介紹了兩個模型n-gram和RNN 語言模型 語言模型是一個預測一句話中的下一個單詞的任務 也就是說，給定單詞[x1,x2,x3,x4...xt]，預測下一個單詞x(t+1)是什麼單詞.x(t+1)是給定詞彙表V={w1,w2,
主要內容： 項目的選擇：可以選擇默認的問答項目，也可以自定義項目 如何發現自定義項目 如何找到數據集 門神經網絡序列模型的複習 關於機器翻譯的一些話題 查看訓練結果和進行評估 一、項目的選擇 默認項目:在SQuAD上構建一個文本問答系統
作業來源：https://github.com/xixiaoyao/CS224n-winter-together 1. 寫在前面 這篇文章是CS224N課程的第一個大作業， 主要是對詞向量做了一個探索， 並直觀的感受了一下詞嵌入或
文本表示分類（基於表示方法） 離散表示 one-hot表示 詞袋模型與TF-ID 分佈式表示 基於矩陣的表示方法 降維的方法 聚類的方法 基於神經網絡的表示方法 NNLM CBOW Skip-gram GloVe ELMo GPT
目錄 一、batch normalization和layer normalization的動機 二、BN和LN的框架原理 2.1BN和LN的具體操作原理 2.2BN和LN的優點和不足 2.3BN和LN的不同 2.4BN和LN的實例代碼展示
自然語言處理-1-介紹零、開始的話一、NLP是什麼（一）NLP=NLU+NLG（二）NLP的困難（三）經典應用場景（四）NLP技術的四個維度 鏈接：[ 全文章目錄 ] 零、開始的話 首先要說聲對不起，咕咕咕了這麼久也沒更新p
參考 https://github.com/DengYangyong/LDA_gensim 文本數據 新聞數據：news_train.txt 預處理後文本：news_train_jieba.txt stopwords停用詞：new
對於在tf-idf進行關鍵字提取的過程中，Scikit-learn提供了TFIDF算法的相關函數，本文主要用到了sklearn.feature_extraction.text下的TfidfTransformer和CountVectoriz
