原创 word2vec學習筆記之CBOW和skip-gram

文章目錄1. Continuous Bag-of-Word Model(CBOW)1.1 One-word context(一個詞的上下文)1.2 Multi-word context(多個詞的上下文)2. Skip-gram m

原创 word2vec學習筆記之文本向量化概述

文章目錄1. one-hot2. tfidf3. n-gram4. NNLM5. word2vec 在NLP的處理中,我們需要講文本輸入到模型中處理,實現分類識別,文本生成或者翻譯等工作。而模型是無法知道一個純粹的文本是什麼意思的

原创 Google Python Style Guide學習筆記

最近發現一些規範的工作習慣真的太重要了,而規範的編碼習慣對於程序員來說又是非常必要的,因此,對Google Python Style Guide進行學習並做一下筆記。 pylint工具 pylint是一個好用的用於給python進

原创 批歸一化Batch Normalization學習筆記

1 Batch Normalization(BN)的作用 1.1 特徵分佈對神經網絡訓練的作用 在神經網絡的訓練過程中,我們一般會將輸入樣本特徵進行歸一化處理,使數據變爲均值爲0,標準差爲1的分佈或者範圍在0~1的分佈。因爲當我們

原创 受限玻爾茲曼機與深度信念網絡

1 受限玻爾茲曼機(RBM) 1.1 RBM的結構 RBM是無監督學習模型,有兩個層的淺層神經網絡,一個可見層,一個隱藏層,是一種用於降維、分類、迴歸、協同過濾、特徵學習和主題建模的算法,它是組成深度置信網絡的基礎部件。 RBM

原创 決策樹學習筆記

本文是學習周志華老師的《機器學習》以及其他相關博客之後進行概括和整理,以便自己將來能夠快速回憶其決策樹的相關內容。大家若想看更加詳細的決策樹相關知識,請參看《機器學習》 總體概述 本文通過腦圖對決策樹相關知識進行整理,目前整理了I