春夜喜雨
好雨知時節，當春乃發生。
隨風潛入夜，潤物細無聲。
野徑雲俱黑，江船火獨明。
曉看紅溼處，花重錦官城。
前言
週末很多城市下開了雨，下雨中也不乏忙忙碌碌的人們，有的天不亮已經忙碌匆匆，讓我想起了杜甫的經典詩詞。。。
好了開始正題SVM 我在第一遍看支持向量機這個算法時，看下去真的是非常難的，越往下看覺的不會的內容越多，本主數學水平大部分已經交給了老師，只好硬着頭皮往下走了，畢竟路還要走下去，經過反覆閱讀和複習相關數學理論，理解還是很淺薄，在這裏記錄一下如有不周之處還望指正，分享是一種美德，人類這麼久的智慧積累需要不斷總結和傳承下去。
PS:數學已經忘記的同學可以趁這個機會順便補補數學，此時學習同大學時學習效果是不一樣的，現在是帶着疑問來學習？自己的學習動力和慾望都是不可同日而語，學習效率也會高很多，這也就是平時我們說的工程式學習方法，因此目前很多高校都在提倡理論結合實踐，爲的是提高學生技能和解決問題的能力。
SVM 思路
svm可以說不簡單是一個簡單的算法，在它的背後有一個強大的數學理論來支撐，在學習一個新東西時我往往喜歡先從整體上來把握，涉及到哪些內容分支細節等等，這種思路是要求自己對每個事情要有一個全局的把握、做事要有全局觀、有了全局觀後再學習自己就會知道在哪應該詳略得當，爲以後的學習也會有個宏觀指導，讓我們來看一下概覽吧。
在後面SVM系列我們會按着這個順序來逐一分析，“路漫漫其修遠兮，汝將上下而求索”。
概念
主要概念如下：
涉及的數學點
SVM涉及到的數學知識點我把它收集了一下，如果想很好的理解SVM，這些都需要取複習一遍，再理解SVM會感覺輕鬆一些，因爲這是一個提高你數學能力的好機會。
- 空間向量
空間向量是高中數學知識，如向量的加減乘、單位向量、內積、外積、正交投影燈。 - 導數和偏導數
這兩概念也是高中數學，導數表示可導函數某點的函數值變化率，即一維時即切線，當自變量二維或以上，單獨對某一個維度求導數即偏導，表示這個維度的變化速率，對整體維度也成爲梯度。 - 矩陣變換
矩陣變換其實和方程變換是一個意思，矩陣的意義代表方程組的係數和值，方程組可以任意幾個相加減得到新的方程組而解不變，同理矩陣也是，給矩陣變換行的位置、同乘標量以及兩行想加減，表示的還是同一矩陣。 - 矩陣行列式
- 對稱矩陣
- 順序主子式
- 微積分
微分是高等數學裏面重要概念 - 範數、二範數
範數在損失函數裏面發揮的作用是按我們的想法去改變公式的結果，加入影響因素，比如L1範數讓矩陣稀疏 - Hessian(海森矩陣)
- 矩陣正定、半正定
- 凸函數極小值定理
- 對偶原理（the duality principle）
- 拉格朗日乘子法
- KKT不等式約束條件
kkt不等式約束條件是在拉格朗日乘子基礎之上擴展而來 - 等高線
- 矩陣求導
- 泰勒級數
總結
學習過程中要注意是系統性學習和非系統性學習，如果數學基礎好的可以採用遇到不會的數學知識點去單獨查詢，並讓這一個點融入自己已知的數學知識體系中，如果數學忘記的比較多的時間也充足，有必要從頭到尾系統性的學習一變。
題外思考
論數學重要性？
不論現在的人工智能還是區塊鏈技術，它們的核心技術都用到了非常多的數學理論，數學變換，數學是支撐它們向前發展的基石，如果沒有了數學那麼也就談不上人工智能現在這麼多前言技術的發展，數學所發揮的作用正在凸顯，作爲一個技術出身的我們也沒有理由不把數學學好，所以，從現在開始學習數學吧。