正態逆伽馬分佈 NIG

$\Gamma$ 函數

$\Gamma(\alpha)= \int_0^{+\infty}x^{\alpha-1}e^{-x}dx$

$\Gamma$ 分佈

含義

• 指數分佈解決的問題是：要等到一個隨機事件發生，需要經歷多久時間¹
• 伽瑪分佈解決的問題是：要等到n個隨機事件都發生，需要經歷多久時間
• 伽瑪分佈可以看作是n個指數分佈的獨立隨機變量的加總，即：$n個Exponential(λ)$隨機變量$\rightarrow \Gamma(n,λ）$
• 泊松分佈解決的是：在特定時間裏發生n個事件的機率，因此可以理解爲“伽瑪分佈=指數分佈＊泊松分佈”

概率密度函數

隨機變量$X$爲一件事發生$α$次所需要的時間，即$X\sim \Gamma(\alpha,\beta)$，其中$α$爲形狀參數（shape parameter），表示事件發生的次數，$β$爲尺度參數（scale parameter），表示一次事件發生的頻率

密度函數爲：
$f(x,\beta,\alpha)=\frac{\beta^\alpha}{\Gamma(\alpha)}x^{\alpha-1}exp(-\beta x)$

均值和方差爲：
$\mu =\frac{\alpha}{\beta}$

$\sigma^2 =\frac{\alpha}{\beta^2}$

特殊形式：

當$\alpha>1$時爲指數分佈²，$f(x,\beta,\alpha)=\frac{\beta}{\Gamma(1)}x^{0}exp(-\beta x)=\beta·exp(-\beta x)$

t=0:0.1:20;
y=gampdf(t,1,0.5);
plot(t,y);
hold on
y=gampdf(t,2,0.5);
plot(t,y);
y=gampdf(t,3,0.5);
plot(t,y);
y=gampdf(t,5,1);
plot(t,y);
y=gampdf(t,9,2);
plot(t,y);
legend('alpha=1,beta=0.5','alpha=2,beta=0.5','alpha=3,beta=0.5',...
    'alpha=5,beta=1','alpha=9,beta=2')
axis([0 16 0 1])

逆 $\Gamma$ 分佈

若$\theta ^{-1}$滿足參數爲$\alpha ，\beta$的$\Gamma$分佈，則$\theta$滿足逆$\Gamma$分佈，記爲 $X\sim IG(\alpha ,\beta)$，逆 $\Gamma$ 分佈是正態方差的共軛先驗分佈

$\theta \sim Inv-Gamma(\alpha,\beta)$

$p(\theta) \sim Inv-Gamma(\theta|\alpha,\beta)$

$shape：\alpha>0，scale：\beta>0$

$p(\theta)=\frac{\beta^\alpha}{\Gamma(\alpha)}\theta^{-\alpha-1}exp( -\frac{\beta}{x})$

$E(\theta) =\frac{\beta}{\alpha-1}$

$Var(\theta) =\frac{\beta^2}{(\alpha-1)^2(\alpha-2)}$

$mode(\theta) =\frac{\beta}{\alpha+1}$

正態逆 $\Gamma$ 分佈

Normal-inverse gamma distribution 又稱 normal-scaled inverse gamme distriution，是正態分佈的先驗分佈

PDF（概率密度函數）：
$Pr(\mu,\sigma^2)=\frac{\sqrt\gamma}{\sigma\sqrt{2\pi}}\frac{\beta^\alpha}{\Gamma[\alpha]}(\frac{1}{\sigma^2})^{\alpha+1}exp[-\frac{-2\beta+\gamma(\delta-\mu)^2}{2\sigma^2}]$
$Pr(\mu,\sigma^2)=NormInvGam_{\mu,\sigma^2}[\alpha,\beta,\gamma,\delta]$

$\sigma^2\sim\Gamma^{-1}(\alpha,\beta),\sqrt{\frac{\alpha\lambda}{\beta}}(x-\mu)\sim t(1)$

正態逆高斯分佈

概率密度函數
$f_x(x)= \frac{\alpha \delta}{\pi q(x)}·exp[p(x)]·K_1[\alpha q(x)]$

其中：$p(x)=\delta\sqrt{\alpha^2-\beta^2}+\beta(x-\mu)$

$q(x)=\sqrt{\delta^2+(x^2-\mu^2)}$

$K_d(·)$爲索引爲$d$的第二類修正貝塞爾函數

$NIG$分佈由$(\alpha,\beta,\mu,\delta)$四個參數表徵：

• 參數$\alpha$爲特徵因子，控制分佈衰減速度，越小衰減越慢，拖尾越嚴重
• 參數$\beta$爲偏斜因子，決定分佈偏斜程度
• 參數$\mu$爲平移參數
• 參數$\delta$爲尺度參數

$f_x(x)= \frac{\alpha \delta}{\pi \sqrt{\delta^2+(x^2-\mu^2)}}·exp[\delta\sqrt{\alpha^2-\beta^2}+\beta(x-\mu)]·K_1[\alpha \sqrt{\delta^2+(x^2-\mu^2)}]$
一般爲對稱分佈，$\beta=\mu=0$，則概率密度爲：
$f_x(x)= \frac{\alpha \delta·exp(\delta\alpha)}{\pi \sqrt{\delta^2+x^2}}·K_1[\alpha \sqrt{\delta^2+x^2}]$

參考鏈接

神奇的伽瑪函數 (上)
神奇的伽瑪函數 (下)
MATLAB概率統計函數(1)
Gamma分佈與逆Gamma分佈 by weixin_41875052
Gamma分佈和逆Gamma分佈 by 萌即正義Zitrone
《計算機視覺：模型、學習和推理》一3.6　正態逆伽馬分佈
正態逆威沙特分佈（Normal-Inverse-Wishart）
蘭小豔, 陳莉, 賈建,等. 一種改進正態逆高斯分佈模型的圖像去噪算法[J]. 計算機應用研究, 2017(10):314-318.

---

1. 怎麼來理解伽瑪（gamma）分佈？ ↩︎

2. $\Gamma(1)=1$ ↩︎