狀態估計第一講：概述與基礎知識

狀態估計簡介

狀態估計在自動控制系統裏的作用：

• 狀態估計，是根據系統的先驗模型和測量序列，對系統內在狀態進行重構的問題

概率密度函數

我們定義x爲區間[a,b]上的隨機變量，服從某個概率密度函數p(x),那麼這個非負函數必然滿足:
$\mathop{ \int }\nolimits_{{a}}^{{b}}p{ \left( {x} \right) } \text{d} x=1$
隨機變量在在某區間的積分即爲概率：
$Pr(c<=x<=d)=\mathop{ \int }\nolimits_{{c}}^{{d}}p{ \left( {x} \right) } \text{d} x$
• 條件概率:
$({\forall}y),Pr(c<=x<=d)=\mathop{ \int }\nolimits_{{c}}^{{d}}p{ \left( {x|y} \right) } \text{d} x$
• 聯合概率:
$p{ \left( {x_1,x_2,x_3……x_N} \right) }$
聯合概率也滿足全概率公理:
$\mathop{ \int }\nolimits_{{a}}^{{b}}p{ \left( {x} \right) } \text{d} x=\mathop{ \int }\nolimits_{{a_N}}^{{b_N}}…\mathop{ \int }\nolimits_{{a_2}}^{{b_2}}\mathop{ \int }\nolimits_{{a_1}}^{{b_1}}p{ \left( {x_1,x_2……x_N} \right) }\text{d} x_1\text{d} x_2…\text{d} x_N$
• 貝葉斯公式：
聯合=條件*邊緣
$p{ \left( {x,y} \right) }=p{ \left( {x|y} \right) }*p{ \left( {y} \right) }=p{ \left( {y|x} \right) }*p{ \left( {x} \right) }$
$p{ \left( {x|y} \right) }=\frac{p{ \left( {y|x} \right) }*p{ \left( {x} \right) }}{p{ \left( {y} \right) }}$
• 賦予該式物理意義：x=狀態，y=傳感器讀數，p(y|x)=傳感器模型，p(x|y)=狀態估計
• 矩（moments）:
• 0階矩恆等於1
• 1階矩稱爲期望（Expectation）
• 2階矩稱爲協方差（Covariance）
• 3階和4階稱爲偏度（skewness）和峯度（kurtosis）
• 隨機變量的統計獨立性:
隨機變量x,y滿足:$p(x,y)=p(x)p(y)$
• 隨機變量不相關性:
$E[xy^T]=E[x]E[y]^T$
• 獨立性可推出不相關性，反之不行
• 對於高斯分佈來說，獨立性=不相關性
• 歸一化積：
融合多個概率分佈的時候需要用到歸一化積，若 $p_1(x)$和$p_2(x)$是關於x的兩個分佈，那麼它們的歸一化積爲:
$p(x)=\eta p_1(x)p_2(x)$,$\eta$是歸一化因子，使得概率積分爲1。

高斯概率密度函數

• 一維高斯概率分佈：
$p(x|\mu,\delta)=\frac {1}{\sqrt{2\pi\delta^2}}\exp(-\frac{1}{2}\frac{(x-\mu)^2}{\delta^2})$

• 聯合高斯分佈：
$p(x,y)=N(\left[ \begin{matrix} \mu_x \\ \mu_y \end{matrix} \right],\left[ \begin{matrix} \sigma_{xx} & \sigma_{xy} \\ \sigma_{yx} & \sigma_{yy} \end{matrix} \right])$
• 高斯推斷：
對聯合概率分佈的協方差矩陣進行三角化然後求逆可得：

$\left[ \begin{matrix} \sigma_{xx} & \sigma_{xy} \\ \sigma_{yx} & \sigma_{yy} \end{matrix} \right]=\left[ \begin{matrix} 1 & \sigma_{xy}\sigma_{yy}^{-1} \\ 0 & 1 \end{matrix} \right]\left[ \begin{matrix} \sigma_{xx}-\sigma_{xy}\sigma_{yy}^{-1} \sigma_{yx}& 0 \\ 0 & \sigma_{yy} \end{matrix} \right]\left[ \begin{matrix} 1 & 0 \\ \sigma_{yy}^{-1}\sigma_{yx} & 1 \end{matrix} \right]$
兩邊求逆：
$\left[ \begin{matrix} \sigma_{xx} & \sigma_{xy} \\ \sigma_{yx} & \sigma_{yy} \end{matrix} \right]^{-1}=\left[ \begin{matrix} 1 & 0\\ -\sigma_{yx}\sigma_{yy}^{-1} & 1 \end{matrix} \right]\left[ \begin{matrix} {[\sigma_{xx}-\sigma_{xy}\sigma_{yy}^{-1} \sigma_{yx}]}^{-1}& 0 \\ 0 & \sigma_{yy}^{-1} \end{matrix} \right]\left[ \begin{matrix} 1 & -\sigma_{yy}^{-1}\sigma_{xy} \\ 0 & 1 \end{matrix} \right]$


• 高斯分佈的獨立性和不相關性： 互相等價
• 高斯分佈的線性變換：
高斯分佈x~$N(\mu_x,\sigma_{xx})$
y=Gx,則y分佈爲:
y~$N(G\mu_x,G\mu_{xx}G^T)$
• 高斯分佈的歸一化積
• 高斯分佈的非線性變換：
高斯分佈x~$N(\mu_x,\sigma_{xx})$
y=g(x)爲非線性變換,則y分佈爲:
$p(y|x)$~$N(g(x),R)$,g爲非線性變換，且受到噪聲R干擾，在$\mu_x$處對g進行線性化可得：
$g(x)\approx\mu_y+G(x-\mu_x)$,G爲g(x)在$x=\mu_x$處的雅克比矩陣，最後可得:
y~$N(g(x),R+G\sigma_{xx}G^T)$
• 高斯過程：
非常燒腦，提供一些資料如下：
高斯過程在連續時間SLAM與運動規劃中的應用
圖文詳解高斯過程