原创 最近關於evaluation model的進階理解(待更新)

最近由於2016年美賽B題和翔哥項目的原因,連續兩次對以前不太深入瞭解的評價模型有了更深的瞭解,總覺得幾種常見評價模型可以大一統,遂記錄一下心得體會。

原创 PLA分類器學習(轉載)

本週六聽了龍飛關於[PLA分類的算法]之後覺得異常巧妙,本來想自己寫寫博客的,但沒想到,我發現有個博客寫得是在是太好了,故這次就轉載一下叭. via.HappyAngel博客園的博客 地址:http://www.cnblogs

原创 關於錯誤:! Package natbib Error: Bibliography not compatible with author-year citations.

在將用LaTeX寫的文章上傳到arxiv時,由於不能使用.bib的文件作爲參考文獻,這個非常麻煩,主要是\usepackage{natbib}這個宏包會報錯. 在overleaf的幫助中,得到一個解答,即首先下載打包好整個LaTe

原创 用pytorch做簡單的最優化問題

pytorch的自動求導很好用,可以利用它對一些求導困難的問題做一些最優化問題,比如昨天狗菜提了一個問題: 求一個三維點的位置,使得它到一個直線族(三維)的距離之和最小 實際上就是求如下最優化問題 min∑i∣Aix+Biy+Ci

原创 anaconda3中的一些小坑以及mysql安裝小坑記錄

anaconda3的坑 由於以前一直都是別人搭好的機子上操作,這次要在一個全新的裸機上折騰未免遇到了點麻煩 1.首先在清華源或者直接wget https://repo.continuum.io/archive/Anaconda3-5.

原创 從矩陣譜分解到矩形的最少正方形剖分

上次聽AK講到譜分解的時候,若有所思,下面將對思考稍作記錄。 矩陣譜分解 關於譜分解有很多定義,主要區別在於條件的強弱,有的要求一個n 階矩陣不僅要求可對角化,而且加強條件至其n 個特徵值λ1,λ2,...,λn 互異,我們這裏由於不

原创 GMCM2017-前景目標提取

最近獨自一人參加完成了GMCM2017-D題,實際上是做幾個問題,本人在機器視覺上雖然饒有興趣,但時畢竟沒有經驗,所以做出來的效果也是差強人意,不過第三問做出來後真的是很開心。 可以簡短地將問題概括如下: 對靜態背景進行前景提取 對動態

原创 (LXTML筆記)Neural Network

神經網絡的話,向前計算是容易地,基本上就是矩陣的乘法加上一點點激活函數的變換,所以這裏不做筆記。 Backprop on NNet 下面對學習過程做一點筆記,backprop實際上就是偏導的鏈式法則 我們考慮的是平方誤差,即 對於

原创 (LXTML筆記)關於支持向量機[二]

下面討論的是對偶支持向量機,先看引入 由上一節我們知道,樸素支持向量機可以通過二次規劃來直接解決,但是我們假設xx 本身是一個dd 維的向量,然後由於可能有複雜邊界,所以我們常常要講xx 轉換到ZZ 空間上,通過zn=ϕ(xn)zn

原创 (LXTML筆記)Gradient Boosted Decision Tree

AdaBoost-DTree 根據AdaBoost的思想, 我們希望在生成多個分類器gtgt 的時候,增加一個類似於adaboost的權重utut ,即gt=A(D,ut)gt=A(D,ut) ,在最後組成最終分類器GG 的時候,增

原创 (LXTML筆記)關於支持向量機[四]

Soft-Margin Support Vector Machine 用hard-margin分類效果較差的主要原因有兩點,分別是變換過於powerful以及堅持要求嚴格分開,不容得一點錯誤。 既然如此不妨像pocket那樣,容許一

原创 (LXTML筆記)關於支持向量機[三]

上回講到的矩陣QQ 中的每一個分量是qn,m=ynymzTnzm,qn,m=ynymznTzm, 而zTnzm=ϕ(xn)Tϕ(xm)znTzm=ϕ(xn)Tϕ(xm) ,首先要對xixi 進行變換然後求內積,能不能將這兩步驟合起來呢?

原创 (LXTML筆記)Radial Basis Function Network

Radial Basis Function Network 即RBF網絡,這個名字平常並不常見,不過其中推導過程中的思想是很有學習價值的。 我們稱上圖中的h(x)h(x) 即爲RBFnetwork,之所以稱之爲網絡是因爲其實它可以看做

原创 一些有趣的發現或者想法

不定時更新 1.一個不小心發現的神奇等式 222+22+2=22 2.一個不小心發現的詭異近似值,設a={7√} 表示7√ 的小數部分,那麼有: a+a2+a3+a4+a5=1.6181918... 細思恐極,而5√+12=1.6

原创 leetcode459奇妙做法的數學解釋

前言 前幾天做了下leetcode459,這道看起來平淡無奇的題目,卻是如此的好玩。我們經常看網上一些人寫的題解,粗暴,直接上代碼,然後唯一的中文是“水題,不解釋”,科科噠,港真,有多少人知道其數學原理,反正我是不建議輕視每一個我們碰到的