轉自：http://xg1990.com/blog/archives/222

學過空間插值的人都知道克里金插值，但是它的變種繁多、公式複雜，還有個半方差函數讓人不知所云
本文講簡單介紹基本克里金插值的原理，及其推理過程。

0.引言——從反距離插值(IDW)說起

空間插值問題，就是在已知空間上若干離散點 (xi,yi) 的某一屬性(如氣溫，海拔)的觀測值 zi=z(xi,yi) 的條件下，估計空間上任意一點 (x,y) 的屬性值的問題。

直觀來講，根據地理學第一定律，

All attribute values on a geographic surface are related to each other, but closer values are more strongly related than are more distant ones.

大意就是，地理屬性有空間相關性，相近的事物會更相似。由此人們發明了反距離插值，對於空間上任意一點 (x,y) 的屬性 z=z(x,y) ，定義反距離插值公式估計量

z^= \sum i = 0 n 1 d α z i

其中 α 通常取1或者2。

即，用空間上所有已知點的數據加權求和來估計未知點的值，權重取決於距離的倒數（或者倒數的平方）。那麼，距離近的點，權重就大；距離遠的點，權重就小。

反距離插值可以有效的基於地理學第一定律估計屬性值空間分佈，但仍然存在很多問題：

α 的值不確定
用倒數函數來描述空間關聯程度不夠準確

因此更加準確的克里金插值方法被提出來了

1.克里金插值的定義

相比反距離插值，克里金插值公式更加抽象

z o^= \sum i = 0 n λ i z i

其中 zo^ 是點 (xo,yo) 處的估計值，即 zo=z(xo,yo) 。

這裏的 λi 是權重係數。它同樣是用空間上所有已知點的數據加權求和來估計未知點的值。但權重係數並非距離的倒數，而是能夠滿足點 (xo,yo) 處的估計值 zo^ 與真實值 zo 的差最小的一套最優係數，即

min λ i V a r (z o^- z o)

同時滿足無偏估計的條件

E (z o^- z o) = 0

2.假設條件

不同的克里金插值方法的主要差異就是假設條件不同。本文僅介紹普通克里金插值的假設條件與應用。

普通克里金插值的假設條件爲，空間屬性 z 是均一的。對於空間任意一點 (x,y) ，都有同樣的期望c與方差 σ2 。

即對任意點 (x,y) 都有

E [z (x, y)] = E [z] = c

V a r [z (x, y)] = σ 2

換一種說法：任意一點處的值 z(x,y) ，都由區域平均值 c 和該點的隨機偏差 R(x,y) 組成，即

z (x, y) = E [z (x, y)] + R (x, y)] = c + R (x, y)

其中 R(x,y) 表示點 (x,y) 處的偏差，其方差均爲常數

V a r [R (x, y)] = σ 2

3.無偏約束條件

先分析無偏估計條件 E(zo^−zo)=0 ，將 zo^=∑ni=0λizi 帶入則有

E (\sum i = 0 n λ i z i - z o) = 0

又因爲對任意的z都有 E[z]=c ，則

c \sum i = 0 n λ i - c = 0

即

\sum i = 0 n λ i = 1

這是 λi 的約束條件之一。

4.優化目標/代價函數J

再分析估計誤差 Var(zo^−zo) 。爲方便公式推理，用符號 J 表示，即

J = V a r (z o^- z o)

則有

J = V a r (\sum n i = 0 λ i z i - z o) = V a r (\sum n i = 0 λ i z i) - 2 C o v (\sum n i = 0 λ i z i, z o) + C o v (z o, z o) = \sum n i = 0 \sum n j = 0 λ i λ j C o v (z i, z j) - 2 \sum n i = 0 λ i C o v (z i, z o) + C o v (z o, z o)

爲簡化描述，定義符號 Cij=Cov(zi,zj)=Cov(Ri,Rj) ，這裏 Ri=zi−c，即點 (xi,yi) 處的屬性值相對於區域平均屬性值的偏差。

則有

J = \sum i = 0 n \sum j n λ i λ j C i j - 2 \sum i = 0 n λ i C i o + C o o

5.代價函數的最優解

再定義半方差函數 rij=σ2−Cij ，帶入J中，有

J = \sum n i = 0 \sum n j = 0 λ i λ j (σ 2 - r i j) - 2 \sum n i = 0 λ i (σ 2 - r i o) + σ 2 - r o o = \sum n i = 0 \sum n j = 0 λ i λ j (σ 2) - \sum n i = 0 \sum n j = 0 λ i λ j (r i j) - 2 \sum n i = 0 λ i (σ 2) + 2 \sum n i = 0 λ i (r i o) + σ 2 - r o o

考慮到 ∑ni=0λi=1

J = σ 2 - \sum n i = 0 \sum n j λ i λ j (r i j) - 2 σ 2 + 2 \sum n i = 0 λ i (r i o) + σ 2 - r o o = 2 \sum n i = 0 λ i (r i o) - \sum n i = 0 \sum n j = 0 λ i λ j (r i j) - r o o

我們的目標是尋找使J最小的一組 λi ，且J是 λi 的函數，因此直接將J對 λi 求偏導數令其爲0即可。即

\partial J \partial λ i = 0; i = 1, 2, \dots, n

但是要注意的是，我們要保證求解出來的最優 λi 滿足公式 ∑ni=0λi=1 ，這是一個帶約束條件的最優化問題。使用拉格朗日乘數法求解，求解方法爲構造一個新的目標函數

J + ϕ (\sum i = 0 n λ i - 1)

其中 ϕ 是拉格朗日乘數。求解使這個代價函數最小的參數集 ϕ,λ1,λ2,⋯,λn ，則能滿足其在 ∑ni=0λi=1 約束下最小化 J 。即

⎧ ⎩ ⎨ ⎪ ⎪ \partial ( J + ϕ ( \sum n i = 0 λ i - 1 ) ) \partial λ i \partial ( J + ϕ ( \sum n i = 0 λ i - 1 ) ) \partial ϕ = 0; i = 1, 2, \dots, n = 0

⎧ ⎩ ⎨ ⎪ ⎪ \partial ( 2 \sum n i = 0 λ i ( r i o ) - \sum n i = 0 \sum n j λ i λ j ( r i j ) - r o o ) \partial λ i \partial ( \partial 2 \sum n i = 0 λ i ( r i o ) - \sum n i = 0 \sum n j λ i λ j ( r i j ) - r o o ) \partial ϕ = 0; i = 1, 2, \dots, n = 0

{2 r i o - \sum n j = 1 (r i j + r j i) λ j \sum n i = 0 λ i = 0; i = 1, 2, \dots, n = 1

由於 Cij=Cov(zi,zj)=Cji ，因此同樣地 rij=rji ，那麼有

{r i o - \sum n j = 1 r i j λ j \sum n i = 0 λ i = 0; i = 1, 2, \dots, n = 1

式子中半方差函數 rij 十分重要，最後會詳細解釋其計算與定義

在以上計算中我們得到了對於求解權重係數 λj 的方程組。寫成線性方程組的形式就是：

⎧ ⎩ ⎨ ⎪ ⎪ ⎪ ⎪ ⎪ ⎪ ⎪ ⎪ ⎪ ⎪ ⎪ ⎪ r 11 λ 1 + r 12 λ 2 + \dots + r 1 n λ n + ϕ r 21 λ 1 + r 22 λ 2 + \dots + r 2 n λ n + ϕ r n 1 λ 1 + r n 2 λ 2 + \dots + r n n λ n + ϕ λ 1 + λ 2 + \dots + λ n = r 1 o = r 2 o \dots = r n o = 1 (1)

寫成矩陣形式即爲

⎡ ⎣ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ r 11 r 21 \dots r n 1 1 r 12 r 22 \dots r n 2 1 \dots \dots \dots \dots \dots r 1 n r 2 n \dots r n n 1 11 \dots 10 ⎤ ⎦ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎡ ⎣ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ λ 1 λ 2 \dots λ n 0 ⎤ ⎦ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ = ⎡ ⎣ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ r 1 o r 2 o \dots r n o 1 ⎤ ⎦ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥

對矩陣求逆即可求解。

唯一未知的就是上文中定義的半方差函數 rij ，接下來將詳細討論

6.半方差函數

上文中對半方差函數的定義爲

r i j = σ 2 - C i j

其等價形式爲

r i j = 1 2 E [(z i - z j) 2]

這也是半方差函數名稱的來由，接下來證明這二者是等價的：

根據上文定義 Ri=zi−c ，有 zi−zj=Ri−Rj ，則

r i j = 1 2 E [(R i - R j) 2] = 1 2 E [R 2 i - 2 R i R j + R 2 j] = 1 2 E [R 2 i] + 1 2 E [R 2 j] - E [R i R j]

又因爲：

E [R 2 i] = E [R 2 j] = E [(z i - c) 2] = V a r (z i) = σ 2

E [R i R j] = E [(z i - c) (z j - c)] = C o v (z i, z j) = C i j

於是有

r i j = 1 2 E [(z i - z j) 2] = 1 2 E [R 2 i] + 1 2 E [R 2 j] - E [R i R j] = 1 2 σ 2 + 1 2 σ 2 - C i j = σ 2 - C i j

σ2−Cij=12E[(zi−zj)2] 得證，現在的問題就是如何計算

r i j = 1 2 E [(z i - z j) 2]

這時需要用到地理學第一定律，空間上相近的屬性相近。 rij=12(zi−zj)2 表達了屬性的相似度；空間的相似度就用距離來表達，定義i與j之間的幾何距離

d i j = d (z i, z j) = d ((x i, y i), (x j, y j)) = (x i - x j) 2 + (y i - y j) 2 - - - - - - - - - - - - - - - - - - \sqrt

克里金插值假設 rij 與 dij 存在着函數關係，這種函數關係可以是線性、二次函數、指數、對數關係。爲了確認這種關係，我們需要首先對觀測數據集

{z (x 1, y 1), z (x 2, y 2), z (x 3, y 3), \dots, z (x n - 1, y n - 1), z (x n, y n)}

計算任意兩個點的距離 dij=(xi−xj)2+(yi−yj)2−−−−−−−−−−−−−−−−−−√ 和半方差σ2−Cij=12E[(zi−zj)2] ，這時會得到 n2 個 (dij,rij) 的數據對。

將所有的 d 和 r 繪製成散點圖，尋找一個最優的擬合曲線擬合 d 與 r 的關係，得到函數關係式

r = r (d)

那麼對於任意兩點 (xi,yi),(xj,yj) ，先計算其距離 dij ，然後根據得到的函數關係就可以得到這兩點的半方差 rij

7. 簡單克里金（simple kriging）與普通克里金（ordinary kriging）的區別

以上介紹的均爲普通克里金（ordinary kriging）的公式與推理。

事實上普通克里金插值還有簡化版，即簡單克里金（simple kriging）插值。二者的差異就在於如何定義插值形式：

上文講到，普通克里金插值形式爲

z o^= \sum i = 0 n λ i z i

而簡單克里金的形式則爲

z o^- c = \sum i = 0 n λ i (z i - c)

這裏的符號 c 在上文介紹過了，是屬性值的數學期望，即 E[z]=c 。也就是說，在普通克里金插值中，認爲未知點的屬性值是已知點的屬性值的加權求和；而在簡單克里金插值中，假設未知點的屬性值相對於平均值的偏差是已知點的屬性值相對於平均值的偏差的加權求和，用公式表達即爲：

R o^= \sum i = 0 n λ i R i

這裏的 Ri 在上文定義過了： Ri=zi−c 。

但是爲什麼這樣的克里金插值稱爲“簡單克里金”呢？由於有假設 E[z]=c ，也就是說 E(Ri+c)=c ，即 E(Ri)=0 。那麼上面的公式 Ro^=∑ni=0λiRi 兩邊的期望一定相同，那麼在求解未知參數 λi 就不需要有無偏約束條件 ∑ni=0λi=1 。換句話說，這樣的估計公式天生就能滿足無偏條件。因此它被稱爲簡單克里金。

從在上文（第4節優化目標/代價函數J）中可以知道，優化目標的推理和求解過程是通過對屬性值相對於期望的偏差量 Ri 進行數學計算而進行的。也就是說這兩種克里金插值方法雖然插值形式不一樣，求解方法是一樣的，重要的區別是簡單克里金插值不需要約束條件 ∑ni=0λi=1 ，求解方程組爲：

⎧ ⎩ ⎨ ⎪ ⎪ ⎪ ⎪ ⎪ ⎪ r 11 λ 1 + r 12 λ 2 + \dots + r 1 n λ n + ϕ r 21 λ 1 + r 22 λ 2 + \dots + r 2 n λ n + ϕ r n 1 λ 1 + r n 2 λ 2 + \dots + r n n λ n + ϕ = r 1 o = r 2 o \dots = r n o (2)

還有更重要的一點，簡單克里金的插值公式爲：

z o^= \sum i = 0 n λ i (z i - c) + c

換句話說，在計算未知點屬性值 zo^ 前，需要知道該地區的屬性值期望 c 。事實上我們在進行插值前很難知道這個地區的真實屬性值期望。有些研究者可能會採用對觀測數據簡單求平均的方法計算期望值 c ，而考慮到空間採樣點位置代表性可能有偏差（比如採樣點聚集在某一小片地區，沒有代表性），簡單平均估計的期望也可能是有偏差的。這是簡單克里金方法的侷限性。

8.小結

總的來說，進行克里金插值分爲這幾個步驟：

對於觀測數據，兩兩計算距離與半方差
尋找一個擬合曲線擬合距離與半方差的關係，從而能根據任意距離計算出相應的半方差
計算出所有已知點之間的半方差 rij
對於未知點 zo ，計算它到所有已知點 zi 的半方差 rio
求解第四節中的方程組，得到最優係數 λi
使用最優係數對已知點的屬性值進行加權求和，得到未知點 zo 的估計值

Tsroad

發佈了66 篇原創文章 · 獲贊 262 · 訪問量 35萬+

私信關注

克里金(Kriging)插值的原理與公式推導

0.引言——從反距離插值(IDW)說起

1.克里金插值的定義

2.假設條件

3.無偏約束條件

4.優化目標/代價函數J

5.代價函數的最優解

6.半方差函數

7. 簡單克里金（simple kriging）與普通克里金（ordinary kriging）的區別

8.小結

如何使用 JS 判斷用戶是否處於活躍狀態

lightdb秒級增加列和刪除列（not null帶默認值）

lightdb數據庫超時相關控制參數

通過HPA+CronHPA組合應對業務複雜彈性伸縮場景

❤️‍🔥 Solon Cloud Event 新的事務特性與應用

lightdb mysql 8.0兼容之不可見主鍵

使用 JS 實現在瀏覽器控制檯打印圖片 console.image()

基於Ubuntu-22.04安裝K8s-v1.28.2實驗（四）使用域名訪問網站應用

線搜索(line search)方法

Python-學習筆記（一）——環境配置+IDE搭建（WingIDE）

經典的機器學習方面源代碼庫（非常全，數據挖掘，計算機視覺，模式識別，信息檢索相關領域都適用的了）

Python-學習筆記（三）——開發環境搭建（numpy，scipy,matplotlib）

Mac 科研常用軟件

https://yachay.unat.edu.pe/blog/index.php?comment_area=format_blog&comment_component=blog&comment_co

linux以太網驅動總結