1.最大似然估計(Maximum Likelihood Estimation, MLE):
一個樣本集中，給定了概率分佈D，且其概率密度函數爲fD，fD中有一個分佈參數a，最大似然估計的目的就是求解參數a的最優值。其求解步驟爲：(1).確定似然函數：
(2).取對數似然函數：
(3).求導等於0，然後得出結果：
2.最大後驗概率(Maximum A Posteriori, MAP):
在MLE的基礎上，知道了參數a的先驗概率，也即在對參數估計時需要考慮其先驗概率，所以MLSE的目標是：
![]()
取對數並化簡可得到：
![]()
所以根據其表達式可以看出，MAP相當於是對MLE和參數的先驗概率做了權衡，同時考慮了兩個方面的因素。
3.最小二乘法(Least Squares, LS)
簡而言之就是通過使估計值與真值之差的平方最小而得到參數的過程，最小二乘法計算不難而且易於理解，但是它存在對噪聲容忍度極低的缺點。
優化目標爲：
4.最小均方誤差準則(Minimum Mean Squared Error, MMSE)
通過使估計值與真值之差的平方均值最小而得到參數的過程，MMSE在含噪數據中有很好的精度，其優化目標爲：
5.最小均方算法(Least Mean Square, LMS)
基於維納濾波，藉助速下降算法的一種算法，計算的步驟爲：
![]()
