原创 最小二乘法與最大似然估計

看似最小二乘估計與最大似然估計在推導得到的結果很相似,但是其前提條件必須引起大家的注意!!! 對於最小二乘估計,最合理的參數估計量應該使得模型能最好地擬合樣本數據,也就是估計值和觀測值之差的平方和最小,其推導過程如下所示。其中Q表示誤

原创 extern 關鍵字 static關鍵字 virutal 關鍵字

extern 1、聲明外部變量 extern 用來修飾變量或者函數名,用以在一個文件中定義,但是可以在其他文件中進行使用的。 例如在A文件中定義了 全局變量 int mm=0;你在另一個文件B中也定 定義了 int mm=0; 編譯時時候

原创 支持向量機通俗導論(理解SVM的三層境界)

原文:http://blog.csdn.net/v_july_v/article/details/7624837 作者:July 。致謝:pluskid、白石、JerryLead。 說明:本文最初寫

原创 傻瓜式Hadoop 集羣部署

傻瓜式Hadoop集羣部署(資料來自網上並經過本人整理) Hadoop編譯篇: 一.Hadoop下載 1.在Hadoop官網上下載hadoop-2.7.2的源碼包,下載地址:http://mirrors.noc.im/apache/ha

原创 感知機(percetron)

[+]        感知機學習旨在求出將訓練數據集進行線性劃分的分類超平面,爲此,導入了基於誤分類的損失函數,然後利用梯度下降法對損失函數進行極小化,從而求出感知機模型。感知機模型是神經網絡和支持向量機的基礎。下面分別從感知機

原创 牛頓法

平時經常看到牛頓法怎樣怎樣,一直不得要領,今天下午查了一下維基百科,寫寫我的認識,很多地方是直觀理解,並沒有嚴謹的證明。在我看來,牛頓法至少有兩個應用方向,1、求方程的根,2、最優化。牛頓法涉及到方程求導,下面的討論均是在連續可微的前提下

原创 梯度下降算法

前言: 上次寫過一篇關於貝葉斯概率論的數學,最近時間比較緊,coding的任務比較重,不過還是抽空看了一些機器學習的書和視頻,其中很推薦兩個:一個是 stanford的machine learning公開課,在verycd可下載,可惜沒

原创 伯努利分佈、泊松分佈

     1. 伯努利分佈 伯努利分佈(Bernoulli distribution)又名兩點分佈或0-1分佈,介紹伯努利分佈前首先需要引入伯努利試驗(Bernoulli trial)。 伯努利試驗是隻有兩種可能結果的單次隨機試驗,即

原创 FragmentActivity和Activity的區別

 FragmentActivity is a special activity provided in the Support Library to handle fragments on system versions older

原创 初學者的卡爾曼濾波——擴展卡爾曼濾波

簡介 轉自:http://www.cnblogs.com/ymxiansen/p/5368547.html   已經歷經了半個世紀的卡爾曼濾波至今仍然是研究的熱點,相關的文章不斷被髮表。其中許多文章是關於卡爾曼濾波器的新應用,但也不乏改善

原创 操作系統、計算機網絡、python題目整理

計算機操作系統: https://blog.csdn.net/qq_32690999/article/details/78069414 計算機網絡題目整理: http://www.cnblogs.com/zyf-zhaoyafei/p/4

原创 extern 關鍵字

1、聲明外部變量 extern 用來修飾變量或者函數名,用以在一個文件中定義,但是可以在其他文件中進行使用的。 例如在A文件中定義了 全局變量 int mm=0;你在另一個文件B中也定 定義了 int mm=0; 編譯時時候不會出錯,因爲

原创 深度學習拾遺

深度學習:hinton bp算法,李飛飛,吳恩達,黃廣斌,路奇 深度學習優化的超參數:1)學習率 學習率(learning rate或作lr)是指在優化算法中更新網絡權重的幅度大小。學習率可以是恆定的、逐漸降低的,基於動量的或者是自適應的

原创 教你透徹瞭解紅黑樹

教你透徹瞭解紅黑樹 原文:https://github.com/julycoding/The-Art-Of-Programming-By-July/blob/master/ebook/zh/03.01.md 二叉查找樹 由於紅黑樹本質上就

原创 決策樹

 算法原理 決策樹(Decision Tree)是一種簡單但是廣泛使用的分類器。通過訓練數據構建決策樹,可以高效的對未知的數據進行分類。決策數有兩大優點:1)決策樹模型可以讀性好,具有描述性,有助於人工分析;2)效率高,決策樹只需要