Python 統計分析--單因素方差分析

Python 統計分析–單因素方差分析

方差分析的主要工作就是將觀測數據的總變異(波動)按照變異的原因的不同分解爲因子效應與試驗誤差，並對其作出數量分析，比較各種原因在總變異中所佔的重要程度，以此作爲進一步統計推斷的依據。

1.基本假設

(1).正態假設。對於因素的每個水平，其觀測值都是來自正態總體的隨機樣本；

(2).方差齊性假設。各個總體的方差相同；

(3).獨立假設。觀測值之間都是獨立的。

2.單因素方差分析

設試驗只有一個因子（又稱爲因素）A有r個水平A1$A_1$ , A2$A_2$ ,A3$A_3$ ,…,Ar$A_r$ 。現在水平Ai下進行ni次獨立試驗，得到的觀測數據爲Xij$X_{ij}$
則單因素方差模型可表示爲:

(1).Xij$X_{ij}$ =μ+ai+εij$\mu +a_i+{\epsilon }_{ij}$ , i=1,2,…,r,j=1,2,…,ni$n_i$

(2).εij${\epsilon }_{ij}$ ~ N(0,σ2${\sigma }^2$ ),且εij${\epsilon }_{ij}$ 相互獨立

(3).∑ri=1niαi$\sum _{i=1}^r{n}_i{\alpha }_i$ = 0

其中μ$\mu$ 爲總平均，αi${\alpha }_i$ 是第i個水平的效應，εij${\epsilon }_{ij}$ 是隨機誤差。

我們的目的是要比較因素A的r個水平的效應是否有顯著差異，這可歸結爲檢驗假設:

H0:α1=α2=...=αr$H_0:{\alpha }_1={\alpha }_2=...={\alpha }_r$

如果H0$H_0$ 被拒絕，則說明因素A的各個水平的效應之間有顯著差異。

按照方差分析的思想，將總離差平方和分解爲兩部分，即：

SST=SSE+SSA$$S{S}_T=S{S}_E+S{S}_A$$

其中

SST=∑ri=1∑nij=1(Xij−X¯)2$S{S}_T=\sum _{i=1}^r\sum _{j=1}^{n_i}(X_{ij}-\overline{X}{)}^2$ , X¯=1n∑ri=1∑nij=1Xij$\overline{X}=\frac{1}{n}\sum _{i=1}^r\sum _{j=1}^{n_i}{X}_{ij}$

SSE=∑ri=1∑nij=1(Xij−Xi.¯)2$S{S}_E=\sum _{i=1}^r\sum _{j=1}^{n_i}(X_{ij}-\overline{X_{i.}}{)}^2$ , Xi.¯=1n∑nij=1Xij$\overline{X_{i.}}=\frac{1}{n}\sum _{j=1}^{n_i}{X}_{ij}$

SSA=∑ri=1∑nij=1(Xi.¯−X¯)2$S{S}_A=\sum _{i=1}^r\sum _{j=1}^{n_i}(\overline{X_{i.}}-\overline{X_{}}{)}^2$

這裏稱SST$S{S}_T$ 爲總離差平方和（總變差），它是所有數據Xij$X_{ij}$ 與總平均值X¯$\overline{X}$ 之差的平方和，描繪所有觀測數據的離散程度;SSE$S{S}_E$ 爲誤差平方和（組內平方和），是對固定的i,觀測值Xi1$X_{i1}$ ,Xi2$X_{i2}$ ,…,Xini$X_{i{n}_i}$ 之間的差異大小的度量。SSA$S{S}_A$ 爲因素A的效應平方和（組間平方和），表示因子A各水平下的樣本均值和總平均值之差的平方和。

可以證明，當H0$H_0$ 成立時

SSEσ2$\frac{S{S}_E}{{\sigma }^2}$ ~ χ2(n−r)${\chi }^2(n-r)$ ,

SSAσ2$\frac{S{S}_A}{{\sigma }^2}$ ~ χ2(r−1)${\chi }^2(r-1)$

且SSA$S{S}_A$ 與SSE$S{S}_E$ 獨立，於是：
F=SSA/(r−1)SSE/(n−r)$F=\frac{S{S}_A/(r-1)}{S{S}_E/(n-r)}$ ~ F(r−1,n−r)$F(r-1,n-r)$

若F>Fα(r−1,n−r)$F>F_{\alpha }(r-1,n-r)$ ,則拒絕原假設，認爲因素A的r個水平有顯著差異。

3.案例：

以澱粉爲原料生產葡萄的過程中, 殘留許多糖蜜, 可作爲生產
醬色的原料. 在生產醬色的過程之前應儘可能徹徹底底除雜, 以保證醬色質量.
爲此對除雜方法進行選擇. 在實驗中選用5種不同的除雜方法, 每種方法做4次
試驗, 即重複4次

4.Python 代碼

import pandas as pd
from statsmodels.formula.api import ols
from statsmodels.stats.anova import anova_lm

df = pd.read_csv("one-way.csv")

df.head()

A B
0 a1 25.6
1 a1 22.2
2 a1 28.0
3 a1 29.8
4 a2 24.4

model = ols('B ~ A',df).fit()
anovat = anova_lm(model)
print(anovat)

            df   sum_sq   mean_sq         F    PR(>F)

A          4.0  131.957  32.98925  4.306128  0.016182

Residual  15.0  114.915   7.66100    

說明: 上述結果中, df表示自由度; sum_sq表示平方和; mean_sq表示均方和;

F表示F檢驗統計量的值,; PR(>F)表示檢驗的p值; A就是因素A;Residuals爲殘差。

5.結果說明：

可以看出p=0.016182<0.05,
說明有理由拒絕原假設, 即認爲五種除雜方法有顯著差異。