機器學習需要掌握的數學知識點---詳細整理

機器學習、深度學習是目前大火的研究方向，那麼如何入手機器學習？網上給出了大量的實踐資料。這些資料主要針對應用的較多，而機器學習的原理是數學模型，這是困擾很多機器學習愛好者的一大難點。那麼學習機器學習需要掌握哪些數學知識呢，作者最近通過結合各種資料，自己整理了一個目錄，涉及到線性代數、概率論和高等數學三個方向。

這不是市面上的書，這是作者自己整理的資料，關於內容，會在後續整理後，持續更新，如有錯誤，請大神指正！感謝！感謝！

第一篇 線性代數篇

第一章 排隊！排隊！什麼是向量

1.1 向量到底學什麼
1.1.1 什麼是向量
1.1.2 向量可以做什麼
1.1.3 向量在機器學習中的表示

1.2 向量的加法、減法和數乘
1.2.1 向量加法
1.2.2 向量減法
1.2.3 向量數乘
1.2.4 相關代碼

1.3 行列式
1.3.1 什麼是行列式
1.3.2 全排列和對換
1.3.3 n階行列式的定義
1.3.4 行列式的性質
1.3.5 代數餘子式展開行列式

1.4 向量的內積
1.4.1‘變態’的內積
1.4.2 內積的代數意義
1.4.3 內積的幾何意義
1.4.4 內積的應用

1.5 向量的叉積
1.5.1 什麼是向量的叉積
1.5.2 叉積的意義
1.5.3 叉積的應用
1.5.4 相關代碼

1.6 向量組的線性相關性
1.6.1 向量組及其線性組合
1.6.2 向量組的線性相關性
1.6.3 向量組的秩
1.6.4 線性方程組的解的結構
1.6.5 向量空間

第二章 矩陣

2.1 什麼是矩陣

2.2 矩陣在圖像識別中的作用

2.3 矩陣的運算
2.3.1 矩陣的加法
2.3.2 矩陣的數乘
2.3.3 矩陣乘矩陣
2.3.4 矩陣的轉置
2.3.5 方陣行列式

2.4 特殊矩陣
2.4.1 單位矩陣
2.4.2 對稱矩陣
2.4.3 逆矩陣
2.4.4 奇異矩陣
2.4.5 相似矩陣
2.4.6 Hermitian矩陣
2.4.7 對角矩陣
2.4.8 Jacobian矩陣
2.4.9 相關應用

2.5 矩陣的變換與線性方程組
2.5.1 矩陣的初等變換
2.5.2 矩陣的秩
2.5.3 線性方程組的解
2.5.4 仿真的特徵值與特徵向量
2.5.5 正定二次型

2.6 矩陣的分解
2.6.1 三角分解
2.6.2 譜分解
2.6.3 奇異值分解
2.6.4 滿秩分解
2.6.5 LU分解

2.7 應用
2.7.1 圖像處理
2.7.2 線性變換及對稱

第三章 距離

3.1 距離的度量方式
3.1.1 歐式距離
3.1.2 馬氏距離
3.1.3 曼哈頓距離
3.1.4 切比雪夫距離
3.1.5 夾角餘弦

3.2 距離的相關應用
3.2.1 一維空間距離
3.2.2 導航距離
3.2.3 數據預處理
3.2.4 度量距離

第二篇 概率偏

由暗戀引發的思考

4.1 由暗戀引發的數學思考

4.2 神奇的概率

4.3 基本概念
4.3.1 隨機試驗
4.3.2 樣本空間與隨機事件
4.3.3 頻率與概率的區別
4.3.4 古典概率問題

4.4 隨機變量及分佈
4.4.1 什麼是隨機變量
4.4.2 離散型隨機變量及其分佈規律
4.4.3 隨機變量的分佈函數
4.4.4 連續型隨機變量及其概率密度

4.5 多維隨機變量及其分佈
4.5.1 二維隨機變量
4.5.2 研究二維隨機變量的意義
4.5.3 邊緣分佈
4.5.4 條件分佈
4.5.5 獨立事件
4.5.6 生活中的獨立事件
4.5.7 兩個隨機變量的函數分佈

4.6 互斥事件
4.6.1 拋硬幣實驗
4.6.2 生活中的互斥事件
4.6.3 互斥事件數學公式

機器學習中的概率研究

5.1 隨機變量的數字特徵
5.1.1 數學期望
5.1.2 方差
5.1.3 協方差及相關係數

5.2 當我說線性迴歸，我在說什麼
5.2.1 什麼是線性迴歸
5.2.2 最小二乘法
5.2.3 最大似然估計
5.2.4 大數定律
5.2.5 中心極限定理

5.3 降低預測誤差的達摩克里斯之劍
5.3.1 什麼是正則化
5.3.2 機器學習爲什麼要正則化
5.3.3 如何正則化
5.3.4 什麼是L1正則化
5.3.5 什麼是L2正則化
5.3.6 其他正則化手段

5.4 今天你正態分佈了嗎
5.4.1 生活中的正態分佈現象
5.4.2 正態分佈名字的由來
5.4.3 爲何機器學習經常用到正態分佈
5.4.4 正態分佈的計算公式

貝葉斯問題

6.1 什麼是貝葉斯
6.1.1 再談暗戀問題
6.1.2 貝葉斯的由來
6.1.3 貝葉斯的意義

6.2 貝葉斯算法原理

6.3 高斯樸素貝葉斯算法原理

6.4 伯努利樸素貝葉斯算法原理

6.5 多項式樸素貝葉斯算法原理

第三篇 數學篇

函數的基本概念

7.1 談一談函數
7.1.1 什麼是函數
7.1.2 函數的三個基本要素

7.2 什麼是數列
7.2.1 數列名稱的由來
7.2.2 數列的數學解釋
7.2.3 數列的分類
7.2.4 等差數列
7.2.5 等比數列
7.2.6 等和數列

7.3 函數的基本性質
7.3.1 函數的單調性
7.3.2 函數的有界性
7.3.3 奇函數與偶函數
7.3.4 函數的連續性

7.4 連續函數的運算與初等函數的連續性
7.4.1 連續函數的和、差、積、商的性質
7.4.2 反函數與複合函數的連續性
7.4.3 初等函數的連續性

第八章 導數的基本概念

8.1 導數的基本概念
8.1.1 超速問題
8.1.2 導數的定義
8.1.3 單側導數
8.1.4 函數可導與連續性的關係

8.2 導數的計算
8.2.1 常用的求導公式
8.2.2 導數的四則運算
8.2.3 導數的鏈式法則
8.2.4 鏈式法則與深度學習
8.2.5 隱函數求導
8.2.6 反函數求導
8.2.7 指數函數求導
8.2.8 對數函數求導

8.3 高階導數

第九章 導數的基本應用

9.1 微分中值定理
9.1.1洛爾定理
9.1.2 拉格朗日中值定理
9.1.3 柯西法則

9.2 洛必達法則

9.3 繁瑣的泰勒

第十章 道士下山的問題

10.1 道士下山的數學問題

10.2 梯度
10.2.1 梯度的定義
10.2.2 梯度的基本應用

10.3 方向導數
10.3.1 什麼是方向導數
10.3.2 如何計算方向導數

10.4 機器學習中的優化問題
10.4.1 什麼是優化
10.4.2 優化的手段
10.4.3 梯度下降的原理
10.4.4 反向傳播的方法
10.4.5 學習率問題
10.4.6 批量梯度下降
10.4.7 隨機梯度下降

第十一章 極值問題

11.1 極值的意義

11.2 全局最優和局部最優

11.3 臨界值和鞍點
11.3.1 什麼是臨界點
11.3.2 什麼是鞍點

11.4 凸函數的定義

11.5 非凸函數的定義

以上只是機器學習需要的數學基礎，並非全部，如果想要深入理解數學模型的含義，還需要借鑑更多資料，甚至是手撕公式。
紙上得來終覺淺，得知此事要躬行
上面涉及的內容，作者會持續更新，歡迎關注！