微分
1. 原函數->導函數
2. 導數：變化率。舉個栗子，位移求導是速度，速度求導是加速度。
3. 偏導數：兩個自變量，假定y不變，對x求導。
積分
1. 導函數->原函數
2. 定積分、不定積分
bootstraping - 有放回抽樣
boosting - bootstrap aggregating
random forest
參數統計：總體分佈可以用有限個參數刻畫，e.g. 假定爲正態，估計μ, σ
非參數估計：假設問題分佈不能用有限個參數刻畫
頻率派
1. 經典統計
2. θ固定，樣本X隨機
3. 極大似然估計MLE(EM), 最大後驗估計MAP
貝葉斯派
1. 貝葉斯統計
2. 樣本X固定，θ隨機
3. 先驗分佈+樣本分佈=>後驗分佈
4. Gibbs sampling
伯努利分佈0-1分佈
二項式分佈0-1，n次-共軛先驗分佈是Beta分佈
多項式分佈0-6，n次-共軛先驗分佈是Dirichlet分佈
來源
結構之法 算法之道 http://blog.csdn.net/v_july_v/article/details/41209515