原创 如何選擇機器學習算法

1、訓練集有多大 如果是小訓練集,高偏差/低方差的分類器(比如樸素貝葉斯)要比低偏差/高方差的分類器(比如k最近鄰)具有優勢,因爲後者容易過擬合。然而隨着訓練集的增大,低偏差/高方差的分類器將開始具有優勢(它們擁有更低的漸近誤差)

原创 Racket 常用方法

round 四捨五入 quotient 整除 remainder 餘數 current-inexact-milliseconds 毫秒計 inexact->exact 轉精確數 #e 轉分 #b #o #x 不同進製表示 (nu

原创 Haskell 常用方法

succ 返回後繼元素 pred 返回前驅元素 div 整除商 list函數 head tail last init length null reverse take drop minimum sum pro

原创 6.2 構造核

6.2 構造核 構造核函數的方法有兩種。 一種是選擇一個特徵空間映射 ϕ(x) ,直接寫出對應的核函數: k(x,x′)=ϕ(x)Tϕ(x′)=∑Mi=1ϕi(x)ϕi(x′) 另一種方法是直接構造核函數。在這種情況下,我們必須確保我

原创 7.1 最大邊緣分類器

7.1 最大邊緣分類器 在前⼀章中,我們研究了許多基於⾮線性核的學習算法。這種算法的⼀個最⼤的侷限性是核函數 k(xn,xm) 必須對所有可能的訓練點對 xn 和 xm 進⾏求值,這在訓練階段的計算上是不可⾏的,並且會使得對新的數據

原创 5.2 網絡訓練

5.2 網絡訓練 1、誤差函數 最簡單的誤差函數是平方和誤差函數,即: E(ω)=12∑n=1N∥y(xn,ω)−tn∥ 而現在我們要從概率的角度考慮誤差函數的選擇。 ⾸先考慮迴歸問題,只考慮⼀元⽬標變量 t 的情形,其中 t

原创 解決安裝rails時出現 ERROR: Failed to build gem native extension. 的問題

執行 gem install rails 時出現了錯誤,錯誤信息如下: Fetching: pkg-config-1.1.7.gem (100%) Successfully installed pkg-config-1.1.7 Fetch

原创 selenium+phantomjs error:OSError: [Errno 9] Bad file descriptor

看了網上各種回答 ,有的說重複調用driver.quit()方法,但是我的代碼裏真的只調用了一次,所以只能當做selenium自身的bug了。 解決方法是: import signal ...(your code) driver.ser

原创 6.3 徑向基函數網絡

6.3 徑向基函數網絡 1、徑向基函數 徑向基函數中,每⼀個基函數只依賴於樣本和中心 μj 之間的徑向距離(通常是歐⼏⾥得距離),即 ϕj(x)=h(∥x−x′∥) 。 歷史上,徑向基函數被用來進行精確的函數內插。給定⼀組輸⼊向量 {

原创 5.6 混合密度網絡

5.6 混合密度網絡 之前的建模中都把條件概率分佈選爲高斯分佈,但在實際的機器學習中,經常會遇到與⾼斯分佈差別相當⼤的概率分佈。例如,在逆問題( inverse problem )中,概率分佈可以是多峯的,這種情況下,⾼斯分佈的假設就會產

原创 6.4 高斯過程

6.4 高斯過程 1、重新考慮線性迴歸問題 考慮⼀個模型M,它被定義爲由向量 ϕ(x) 的元素給出的M個固定基函數的線性組合,即: y(x)=ωTϕ(x) 現在,考慮 ω 上的⼀個先驗概率分佈,這個分佈是⼀個各向同性的⾼斯分佈,形

原创 angr資源

https://zhuanlan.zhihu.com/p/25192237 https://www.anquanke.com/post/id/85039 http://bestwing.me/2017/03/08/angr-study/

原创 lecture2.b --- 感知器

。。。

原创 lecture2.a --- 神經網絡結構的分類

1、前饋神經網絡(Feed-forward neural networks) 前饋神經網絡是實際應用中最常見的網絡結構,它包含一個輸入層(input units),一個輸出層(output units)和一到多個隱含層(hidden un