20應用統計考研複試要點(part13)--應用多元分析

學習筆記，僅供參考，有錯必糾

---

王學明應用多元分析

隨機向量

數字特徵

• 相關矩陣

設x和y是兩個隨機變量，它們之間的相關係數定義爲：

它度量了x和y之間線性相關關係的強弱，$\rho$的取值範圍爲$[-1,1]$

設$x=(x_1, x_2, ..., x_p)'$和$y=(y_1, y_2, ..., y_q)'$分別爲p維和q維隨機向量，x和y的相關矩陣定義爲：

若$\rho (x,y)=0$，則稱x和y不相關。當$x=y$時，$\rho (x,x)$稱爲x的相關矩陣，記作$R=(\rho_{ij})$，這裏$\rho_{ij}=\rho(x_i,x_j), \rho_{ii}=1$，即：

相關矩陣$R=(\rho_{ij})$和協方差矩陣$\sum=(\sigma_{ij})$之間有關係式：
$R=D^{-1} \sum D^{-1}$
其中，$D=diag(\sqrt {\sigma_{11}}, \sqrt {\sigma_{22}},..,\sqrt {\sigma_{pp}})$;R和$\sum$相應的元素之間的關係式爲：
$\rho_{ij}=\frac{\sigma_{ij}}{\sqrt{\sigma_{ii} \sqrt{\sigma_{jj}}}}$
需要指出，$\sum$中的$\sigma_{ij}(i \not= j)$之間在一般情況下不可直接比較大小，而R中的$\rho_{ij}(i \not= j)$之間的大小卻可以直接比較。

歐氏距離和馬氏距離

• 歐氏距離

$x=(x_1, x_2, ..., x_p)'$和$y=(y_1, y_2, ..., y_p)'$之間的歐氏距離爲：

爲避免根號表達的麻煩，我們常使用平方歐氏距離：

幾何上，歐氏距離是兩點之間的直線距離。如果各分量的單位不全相同，則直接使用上述歐氏距離一般是沒有意義的。

• 馬氏距離

馬氏距離公式的導出：

存在點$x=(x_1, x_2, ..., x_p)'$和點$y=(y_1, y_2, ..., y_p)'$，它們之間的平方馬氏距離爲：
$d^2(x,y)=(x-y)' \Sigma ^{-1} (x-y)$
點$x=(x_1, x_2, ..., x_p)'$到總體$\pi$的平方馬氏距離定義爲：
$d^2(x,\pi)=(x- \mu)' \Sigma ^{-1} (x-\mu)$

馬氏距離的特點:

(1)馬氏距離對下列形式的p維向量x度量單位的改變具有不變性:
$y=Cx+b$
其中C爲$p \times p$階的非退化常數矩陣，b爲p維常數向量。

證明：

(2)馬氏距離是x和y經標準化之後的歐氏距離。這是因爲，若令$x^*=\Sigma^{-1/2}(x-\mu),y^*=\Sigma^{-1/2}(y-\mu)$，則：
$d^2(x,y)=(x^*-y^*)' (x^*-y^*)$

(3)若$\Sigma=diag(\sigma_{11}, \sigma_{22},...,\sigma_{pp})$，則：