Phi-divergence

測度的絕對連續性（Absolute continuity of measures）

定義. 假設 $\mathcal{B}$ 是定義於 $X$ 的子集上的一個 $\sigma$-代數，$\mu, \nu$ 是 $\mathcal{B}$ 上的兩個測度， 如果對於任意滿足 $\mu(A)=0$ 的子集$A\in\mathcal{B}$，有 $\nu(A)=0$，則我們稱 $\nu$ 相對於 $\mu$ 是絕對連續的。

Radon-Nikodym定理. 如果測度 $\nu$ 相對於 $\mu$ 是絕對連續的，那麼存在一個函數 $f\in L^1(\mu)$ 使得 $\nu=f\mu$，i.e.,
$\nu(A)=\int_A fd\mu \qquad \forall A\in\mathcal{B}$

$\phi$-divergence