超平面的法向量與距離公式

 

---

1、超平面一般表示形式

在n維空間中，設任意點座標爲
$x=[x^{(1)},x^{(2)},...x^{(n)}]^T\in{R^n}$

設超平面參數
$w=[w^{(1)},w^{(2)},...w^{(n)}]^T\in{R^n}$

$b\in{R}$

則超平面方程可表示爲
$w^T x+b=0\tag{1}$

 

---

2、超平面的法向量

超平面的法向量滿足：超平面中任意向量都與該法向量垂直。設超平面上的兩個點爲$x_1$和$x_2$，分別滿足：
$w^T x_1+b=0\tag{2}$

$w^T x_2+b=0\tag{3}$

兩式相減，可得
$w^T (x_1-x_2)=0\tag{4}$

記 $\bm{v}=(x_1-x_2)$，由於$x_1$和$x_2$是任取的，故 $\bm{v}$ 表示超平面上的任意向量。這時我們可以發現，式$(4)$的含義恰好是：平面上任意一個向量都與 $w$ 相互垂直，因此 $w$ 就是超平面$w^T x+b=0$的一個法向量。
 

---

3、點到超平面的距離

記超平面外一點爲 $x_0$ ，記點 $x_3$ 在超平面$w^T\cdot x+b=0$上的投影點爲 $x_0'$，滿足：
$w^T\cdot x_0'+b=0\tag{5}$

則有向量 $\bm{u}=(x_0-x_0')$ 與平面$w^T x+b=0$的法向量$\bm{w}$互相平行，則兩者的數量積：
$w^T(x_0-x_0')=w\cdot (x_0-x_0')=|w|*|x_0-x_0'|*cos(0~or~\pi)=\pm|w|*d\tag{6}$

其中 $d=|x_0-x_0'|$ 即爲待求的點到超平面間的距離。

另一方面，根據式$(5)$消去可得

$w^T(x_0-x_0')=w^Tx_0-w^Tx_0'=w^Tx_0-(-b)=w^Tx_0+b\tag{7}$

結合$(6)(7)$，考慮到 $d\ge0$，可得
$d=\frac{|w^Tx_0+b|}{|w|}\tag{8}$

這裏上式中的 $|w|$ 表示 $w$ 的模長，模長作爲絕對值概念的推廣，在歐式空間中，模長常常稱爲L2範數（也稱爲Euclidean範數或者Frobenius範數）：
$||w||_F=\sqrt{(w^{(1)})^2+(w^{(2)})^2+...+(w^{(n)})^2}$

所以，$d$ 的表達式即爲：
$d=\frac{|w^Tx_0+b|}{||w||_F}\tag{9}$

這樣來看，平面直角座標系下的點到直線距離公式便是上式的一個特例。
 

---

4、平行超平面之間的距離公式

趁熱打鐵，繼續推導平行超平面間的距離公式，設兩個不重合的平行超平面分別爲：
$w_1^T x+b_1=0$

$w_2^T x+b_2=0$

由於兩個超平面互相平行，因此由 $2$ 中對法向量的討論可知，兩個超平面的法向量互相平行，我們取兩個互相重合的法向量，即
$w=w_1=w_2$

則可得
$w^T x+b_1=0\tag{10}$

$w^T x+b_2=0\tag{11}$

設 $P(x_0)$ 爲平面1上的一個點，即滿足：
$w^Tx_0+b_1=0\tag{12}$

則根據點到超平面的距離公式可得點 $P(x_0)$ 到超平面2的距離 $d$ 滿足：
$d=\frac{|w^Tx_0+b_2|}{||x_0||_F}=\frac{|-b_1+b_2|}{||w||_F}$

上式最後一步用到了式$(12)$。最後我們得到了平行超平面之間的距離公式爲
$d=\frac{|b_2-b_1|}{||w||_F}\tag{13}$