原创 樸素貝葉斯以及三種常見模型推導

樸素貝葉斯 在機器學習中,樸素貝葉斯分類器是一系列以假設特徵之間強(樸素)獨立下運用貝葉斯定理爲基礎的簡單概率分類器。 樸素貝葉斯算法Naive Bayes定義中有兩個關鍵定義:特徵之間強假設獨立和貝葉斯定理.這兩個定義就是樸素貝

原创 詞袋模型BoW和詞集模型SoW比較

Bag-of-Words詞袋模型,經常用在自然語言處理和信息檢索當中.在詞袋模型中,一篇文本(文章)被表示成"裝着詞的袋子",也就是說忽略文章的詞序和語法,句法;將文章看做詞的組合,文中出現的每個詞都是獨立的,不依賴於其他詞.雖然這個

原创 11. Container With Most Water

題意 給定n個非負整數a1,a2,...,ana_1,a_2,...,a_na1​,a2​,...,an​,其中每個數表示座標點(i,ai)(i,a_i)(i,ai​),i是數組下標,aia_iai​是對應高度.尋找兩條線,使得兩條線

原创 [Learning-from-data]無限假設空間的可學性以及模型泛化

Theory of Generalization 樣本外誤差EoutE_{out}Eout​測量了訓練集D上學習的模型在unseen data上的泛化能力.EoutE_{out}Eout​是基於整個輸入空間X上的表現來測量的.如果使用

原创 [Learning-from-data]有限假設空間的可學性

明白機器學習中的通用理論,然後在細化到數學推導,之後再明白侷限性以及改進;輔助以代碼. 筆記.防止看得太過於枯燥. -What is learning? -Can a machine learn? -How to do it? -

原创 決策樹(ID3,C4.5,CART)原理以及實現

決策樹 決策樹是一種基本的分類和迴歸方法.決策樹顧名思義,模型可以表示爲樹型結構,可以認爲是if-then的集合,也可以認爲是定義在特徵空間與類空間上的條件概率分佈. 決策樹的中間節點可以看做是對一種特徵的判斷,也是符合上一次判斷特

原创 [推薦系統]利用用戶標籤數據

推薦系統的目的是聯繫用戶的興趣和物品,這種聯繫需要以來不同的媒介。GroupLens在一篇文章中表示目前流行的推薦系統基本上通過3種方式聯繫童虎興趣和物品。 第一種方式是利用用戶喜歡過的物品,給用戶推薦與他喜歡過的物品相似的物品,

原创 [推薦系統]利用用戶行爲數據

基於用戶行爲分析的推薦算法是個性化推薦系統的重要算法,一般將這種類型的算法稱爲協同過濾算法。協同過濾就是指用戶可以齊心協力,通過不斷地和網站互動,使自己的推薦列表能夠不斷過濾掉自己不感興趣的物品,從而越來越滿足自己的需求。 用戶行爲數

原创 [推薦系統讀書筆記]好的推薦系統

什麼是推薦系統 information overload信息過載時代: 信息爆炸。 在這個時代,無論是信息消費者還是信息生產者都遇到了很大的挑戰:作爲信息消費者,如何從大量信息中找到自己感興趣的信息是一件非常困難的事情;作爲信息生產者

原创 位運算及其編程妙用

Bitwise Operators 介紹 位操作符通常用來對操作數進行位級的操作運算。首先將運算符轉換爲位級,然後對操作數執行計算。可以在比特級執行諸如加法,減法,乘法等的數學運算以便更快地處理。 在C語言中,有6種位操作符(在比特級

原创 [LeetCode]709. To Lower Case

Implement function ToLowerCase() that has a string parameter str, and returns the same string in lowercase. 將字符串的大寫字母轉

原创 [Deep-Learning-with-Python]GAN圖片生成

GAN 由Goodfellow等人於2014年引入的生成對抗網絡(GAN)是用於學習圖像潛在空間的VAE的替代方案。它們通過強制生成的圖像在統計上幾乎與真實圖像幾乎無法區分,從而能夠生成相當逼真的合成圖像。 理解GAN的直觀方式是想象一個

原创 ISO C forbids comparison between pointer and integer [-fpermissive]

錯誤代碼: S = “a##c”; if(S[i] == "#"){ if(s.length()!=0) s.pop_back(); } 異常:ISO C forbids comparison between p

原创 [手把手系列之二]實現多層神經網絡

完整代碼:>>點我 歡迎star,fork,一起學習 網絡用途 或者說應用場景:使用單層神經網絡來識別一張圖片是否是貓咪的圖片。 數學表示 給定一張圖片XX 送到網絡中,判斷這張圖片是否是貓咪的照片? 網絡架構 多層神經網絡處理過程

原创 深度學習算法優化背景知識---指數加權平均

背景:在深度學習優化算法,如:Momentum、RMSprop、Adam中都涉及到指數加權平均這個概念。爲了系統的理解上面提到的三種深度學習優化算法,先着重理解一下指數加權平均(exponentially weighted averag