數理統計與數據分析第三版習題 第3章 第33-35題

題目33

如3.5.2節的例子3.5.2.5，假定讀者認爲硬幣正面向上的先驗觀點可以用[0,1]的均勻密度來表示，現在反覆地轉動硬幣，並記錄下轉動次數$N$,直到正面向上爲止。因此如果在第一次轉動時正面就向上則$N=1$，等等。
a.計算給定$N時\Theta$的後驗密度
b.用一枚新造的硬幣重新試驗，作出後驗密度的圖形

解題思路

參考本題中提到的例子3.5.2.5
$\Theta$的先驗概率爲
$f_\Theta(\theta)=1$
給定$\theta,N$服從成功概率爲$\theta$的幾何分佈：
$f_{N|\Theta}(n|\theta)=(1-\theta)^n\theta$
現在$\Theta$是連續的，$N$是離散的,它分具有聯合概率分佈：
$f_{\Theta,N}(\theta,n)=f_{N|\Theta}(n|\theta)f_\Theta(\theta)=f_{N|\Theta}(n|\theta)=(1-\theta)^n\theta$
計算$N$的邊際密度
$f_N(n)=\int_0^1f_{\Theta,N}(\theta,n)d\theta=\int_0^1(1-\theta)^n\theta d\theta$
下邊是$f_N(n)$積分過程:
$\begin{aligned} f_N(n)&=\int_0^1f_{\Theta,N}(\theta,n)d\theta\\ &=\int_0^1(1-\theta)^n\theta d\theta\\ &=\int_0^1(\theta-1)(1-\theta)^{n-1}d\theta+\int_0^1(1-\theta)^{n-1}d\theta\\ &=-\int_0^1(1-\theta)(1-\theta)^{n-1}d\theta+\int_0^1(1-\theta)^{n-1}d\theta\\ &=-\int_0^1(1-\theta)^{n}d\theta+\int_0^1(1-\theta)^{n-1}d\theta\\ &=--\int_0^1(1-\theta)^nd(1-\theta)+-\int_0^1(1-\theta)^{n-1}d(1-\theta)\\ &=\int_0^1(1-\theta)^nd(1-\theta)-\int_0^1(1-\theta)^{n-1}d(1-\theta)\\ &=\left [ \frac{(1-\theta)^{n+1}}{n+1} - \frac{(1-\theta)^n}{n} \right ]_0^1\\ &=\frac{1}{n(n+1)} \end{aligned}$
根據條件概率公式：
$\begin{aligned} f_{\Theta|n}(\theta|n)&=\frac{f_{\Theta,N}(\theta|n)}{f_N(n)}\\ &=\frac{(1-\theta)^n\theta}{\frac{1}{n(n+1)}}\\ &=n(n+1)(1-\theta)^n\theta \end{aligned}$
a.小問最後答案：
$n(n+1)(1-\theta)^n\theta$

題目34

如3.5.2節的例子3.5.2.5，假定讀者認爲硬幣正面向上的先驗觀點可以用[0,1]的均勻密度來表示，假定先驗密度是參數爲$a=b=3$的貝塔密度，這反映出有更強的先驗觀點認爲出現1面的機率是$\frac12$,做出先驗密度圖形，根據例子中的推導過程，計算後驗密度，並作出它的圖形且與例子中所示的後驗密度相比較。

首先做出先驗密度圖形：

下面推導後驗概率，爲了避免與貝塔分佈中的參與$a,b$區分我們先令題目中的$a,b$爲$c,d$都等於3

$\Theta$的先驗概率爲
$f_\Theta(\theta)=\frac{\Gamma(i+j)}{\Gamma(i)\Gamma(j)}\theta^{i-1}(1-\theta)^{j-1}$
給定$\theta,N$服從成功概率爲$\theta$的二項分佈：
$f_{X|\Theta}(x|\theta)={n\choose x}\theta^x(1-\theta)^{n-x}$
現在$\Theta$是連續的，$N$是離散的,它分具有聯合概率分佈：
$f_{\Theta,X}(\theta,x)=f_{X|\Theta}(x|\theta)f_\Theta(\theta)={n\choose x}\theta^x(1-\theta)^{n-x}\frac{\Gamma(i+j)}{\Gamma(i)\Gamma(j)}\theta^{i-1}(1-\theta)^{j-1}$
計算$N$的邊際密度
$f_X(x)=\int_0^1f_{\Theta,X}(\theta,x)d\theta$
下邊是$f_X(x)$積分過程:
$\begin{aligned} f_X(x)&=\int_0^1f_{\Theta,X}(\theta,x)d\theta\\ &=\int_0^1{n\choose x}\theta^x(1-\theta)^{n-x}\frac{\Gamma(i+j)}{\Gamma(i)\Gamma(j)}\theta^{i-1}(1-\theta)^{j-1}\\ &={n\choose x}\frac{\Gamma(i+j)}{\Gamma(i)\Gamma(j)}\int_0^1\theta^x(1-\theta)^{n-x}\theta^{i-1}(1-\theta)^{j-1}d\theta\\ &={n\choose x}\frac{\Gamma(i+j)}{\Gamma(i)\Gamma(j)}\int_0^1\theta^{x+i-1}(1-\theta)^{n-x+j-1}d\theta\\ 其中：\\ &\int_0^1\theta^{x+i-1}(1-\theta)^{n-x+j-1}d\theta=\frac{\Gamma(x+i)\Gamma(n-x+j)}{\Gamma(x+i+n-x+j)}\\ 則：\\ f_X(x)&={n\choose x}\cdot \frac{\Gamma(i+j)}{\Gamma(i)\Gamma(j)}\cdot\frac{\Gamma(x+i)\Gamma(n-x+j)}{\Gamma(x+i+n-x+j)}\\ 計算:\\ f_{\theta|X}(\theta|x)&=\frac{f_{\Theta,X}(\theta,x)}{f_X(x)}\\ &=\frac{\Gamma(x+i+n-x+j)}{\Gamma(x+i)\Gamma(n-x+j)}\cdot\theta^{x+i-1}(1-\theta)^{n-x+j-1} \end{aligned}$
則本題的事後驗密度滿足a=x+i,b=n-x+j貝塔分佈
根據題意$i=j=3,n=20,x=13 $做出後驗分佈圖形

題目35

找一枚新造硬幣，站立在邊緣上轉動20次，依照3.5.2節的例3.5.2.5。計算並繪出後驗分佈，再轉動20次，並計算出40次轉動結果的後驗分佈，當轉動次數增加值有什麼情況發生了。

解題思路

按要求轉動硬幣
n=20 正面爲8次，n=40時，正面爲19次
計算繪圖

紅色爲n=20 藍色爲n=40,次數越多，越集中

以下解題過程都是由互聯網收集而來，並不保證正確，如有疑問可以留言討論