原创 第二屆搜狐內容識別算法大賽第一名分享

第二屆搜狐內容識別大賽冠軍LuckyRabbit團隊的解決方案 本文主要是向大家介紹一下團隊的解決方案,具體代碼和答辯PPT可以上 github 第二屆搜狐內容識別大賽冠軍LuckyRabbit團隊的解決方案 任務說明 任務要求 數據

原创 bp神經網絡的python實現

轉載於:http://www.cnblogs.com/charlotte77/p/5629865.html 最近在看深度學習的東西,一開始看的吳恩達的UFLDL教程,有中文版就直接看了,後來發現有些地方總是不是很明確,又去看英文版,然

原创 《機器學習實戰》學習筆記 --chapter3 決策樹

決策樹概論 決策樹主要是利用了二分法思想和信息論中關於信息增益的定義,並利用遞歸的方式來建立一顆決策樹。 二分法 二分法的主要思想就是分而治之,書上有個例子舉得很好,舉行一個遊戲,參與遊戲的一方在腦海裏想一個事物,其他參與者來向他提問,

原创 softmax分類器 python實現

轉自 http://blog.csdn.net/wds2006sdo/article/details/53699778?utm_source=itdadao&utm_medium=referral 算法 算法參考的是Andrew 的課件

原创 Batch Normalization--全連接神經網絡和卷積神經網絡實戰

Batch Normalization原理 網上博客一大堆,說的也很明白,這裏就簡單的說一下我的個人理解: 對每一個特徵值進行 0均值化,利於神經網絡擬合時,對於自身的參數b,無需修改很多次,就可以達到收斂。(因爲b的初始值是設爲0的

原创 python3實現互信息和左右熵的新詞發現

python3 實現的中文分詞新詞發現 關於中文新詞發現有多種方法,經過比較之後發現利用互信息和左右熵來做新詞發現效果最好,先上實驗效果 初始語句: 蔡英文在昨天應民進黨當局的邀請,準備和陳時中一道前往世界衛生大會,和談有關九二共識問

原创 Java —— static 修飾的方法不可以覆蓋

class Father { public static void go() { } } class son extends Father { public void go() { } }

原创 《機器學習實戰》學習筆記 --chapter2 K-近鄰算法

kNN算法概述 看完kNN算法,其本質就是 找到待預測點和其餘已知點的距離,並且對其從小到大進行排序,並且取其前K個點,用這K個點來進行判別。 僞代碼如下: 求得待預測點和已知樣本點中的特徵值的距離: 具體是利用幾何中的線性距離來

原创 《統計學習方法》——kd樹python實現

kd樹原理 之前看KNN時,確實發現這個計算量很大。因此有人提出了kd樹算法,其作用是,當你需要求得與預測點最近的K個點時,這個算法可以達到O(logN)的時間複雜度(相當於搜索一顆二叉樹的時間耗損). 原理有一篇博文講的十分精彩[這裏寫

原创 《統計學習方法》——感知器的原理和python實現

感知器原理 通俗的解釋就是,期望在給定的數據集中,找到一個超平面,這個平面可以正確的分割開所有的數據類別。這裏有一個假設,就是這個超平面是一定存在的,就是一定是有解可以把這些數據集完好的分開。 這裏先不列舉數學公式,講一講通俗理解: 就是

原创 JAVA 多線程——線程競爭

下面再來看一個關於線程競爭的例子,記得學過了操作系統課程裏對線程的進程做過了一定程度的講解,但當時對於所謂的同步和互斥方法也並不是很瞭解。最好的方法還是通過代碼來理解 class Acount { public static in

原创 《統計學習方法》——對偶感知器的python實現

對偶感知器原理 其原理和原始形式的感知器的原理一樣,對偶就是是:實質是一樣,只是換了一種實現方式。 我們用梯度下降法來更新權值時的公式爲: 由於太懶,這裏用手寫給出圖片解答 對偶感知器的實現 爲了方便計算Xi*Xj,這裏先引入gra

原创 cs231n 編程作業(2)學習心得——多種優化方法

cs231n編程作業確實厲害,這裏記錄一下學習心得 優化方法選擇 普通梯度下降法 普通的梯度下降法是我們最爲熟悉的優化方法,代碼如下 x -= learning_rate * dx 即是僅僅讓權值沿着梯度最快下降的來減小 雖然該方法

原创 L0/L1/L2範數

轉至http://blog.csdn.net/shijing_0214/article/details/51757564 什麼是範數? 我們知道距離的定義是一個寬泛的概念,只要滿足非負、自反、三角不等式就可以稱之爲距離。範數是

原创 python numpy庫的初次使用

好吧是第一次使用numpy庫,發現和matlab的語法十分相近,有很多的共同之處。 今天碰到的一個大的問題就是庫的使用方式 import numpy 與 from numpy import * 這兩者還是有着不少的區別。這兩者都是引入n