Wasserstein Disstance

Wasserstein距離

先簡單記錄下對這個距離的理解，後續補全
首先，WGAN的論文裏提出了Wasserstein距離

W(Pr,Pg)=infγ∈Π(Pr,Pg)E(x,y)∼γ[||x−y||]$$W({\mathbb{P}}_r,{\mathbb{P}}_g)=\underset{\gamma \in \mathrm{\Pi }({\mathbb{P}}_r,{\mathbb{P}}_g)}{inf}{\mathbb{E}}_{(x,y)\sim \gamma }[||x-y||]$$

其中，γ∈Π(Pr,Pg)$\gamma \in \mathrm{\Pi }({\mathbb{P}}_r,{\mathbb{P}}_g)$ 是Pr${\mathbb{P}}_r$ 和Pg${\mathbb{P}}_g$ 的聯合分佈，對於滿足γ$\gamma$ 分佈的採樣(x,y)$(x,y)$ ，其樣本對的距離是||x−y||$||x-y||$ ，所以在聯合分佈γ$\gamma$ 下，樣本對距離的期望值爲E(x,y)∼γ[||x−y||]${\mathbb{E}}_{(x,y)\sim \gamma }[||x-y||]$ ，inf$inf$ 既是對距離期望求下界（最小距離），從而用來衡量兩個分佈之間的距離。
唔，這裏怎麼理解吶？其實作者提出的Wasserstein距離就是Earth-Mover距離（EMD），EMD本身是一個線性規劃問題，求一組直方圖到另一組直方圖的最短距離。當然，作者直接通過採樣(x,y)$(x,y)$ 來獲得Pr${\mathbb{P}}_r$ 和Pg${\mathbb{P}}_g$ 之間的EM距離。

---

後面再補詳細和圖吧~有點說不清楚