數值分析讀書筆記（5）數值逼近問題(I)----插值極其數值計算

數值分析讀書筆記（5）數值逼近問題(I)—-插值極其數值計算

給出一般性的插值概念

給定f(x),x∈[a,b]$f(x),x\in [a,b]$ ,已知它在n+1個互異的節點x0,x1,…$x_0,x_1,\dots$ 上的函數值爲y0,y1,…$y_0,y_1,\dots$
目的即尋求φ(x)$\phi (x)$ ,使得φ(xi)=f(xi)=yi$\phi (x_i)=f(x_i)=y_i$
令所有的φ(x)$\phi (x)$ 組成Φ$\mathrm{\Phi }$ ,通常Φ$\mathrm{\Phi }$ 是有限維線性空間,記

Φ=span{φi(x)}ni=0$$\mathrm{\Phi }=span\{{\phi }_i(x){\}}_{i=0}^n$$

其中φi(x)${\phi }_i(x)$ 爲一組基, 於是有

φ(x)=∑i=0naiφi(x)$$\phi (x)=\sum _{i=0}^n{a}_i{\phi }_i(x)$$

故我們可以利用序列{ai}ni=0$\{a_i{\}}_{i=0}^n$ 來確定φ(x)$\phi (x)$ , 這裏的φ(x)$\phi (x)$ 就是插值函數

通過概念我們可以看出來,目的就是讓插值函數去接近給定的函數

---

1.關於多項式插值

當給定插值函數是多項式函數的時候, 我們可以產生一種插值的方案, 下面介紹一下Lagrange插值

令P(x)=a0+a1x+a2x2+⋯+anxn=∑ni=0aixi$P(x)=a_0+a_{1}x+a_2{x}^2+\cdots +a_n{x}^n=\sum _{i=0}^n{a}_i{x}^i$
由於

P(xi)=yi,i=0,1,2,…,n$$P(x_i)=y_i,i=0,1,2,\dots ,n$$

⎧⎩⎨⎪⎪⎪⎪a0+a1x0+⋯+anxn0⋮a0+a1xn+⋯+anxnn=y0=y0$$\{\begin{array}{rl}{a}_0+a_1{x}_0+\cdots +a_n{x}_0^n& =y_0\\ ⋮\\ a_0+a_1{x}_n+\cdots +a_n{x}_n^n& =y_0\end{array}$$

得係數陣爲

A=⎛⎝⎜⎜1⋮1x0⋮xn⋯⋱⋯xn0⋮xnn⎞⎠⎟⎟$$A=\left(\begin{array}{cccc}1& x_0& \cdots & x_0^n\\ ⋮& ⋮& \ddots & ⋮\\ 1& x_n& \cdots & x_n^n\end{array}\right)$$

由Vandermonde行列式的特性,我們可以知道

|A|=∏0≤i<j≤n(xj−xi)$$\left|\begin{array}{c}A\end{array}\right|=\prod _{0\le i<j\le n}(x_j-x_i)$$

若xi$x_i$ 互異,則有唯一解
構造插值基函數

li(xj)=δij={10i=ji≠j$$l_i(x_j)={\delta }_{ij}=\{\begin{array}{rlrl}& 1& & i=j\\ & 0& & i\ne j\end{array}$$

i≠j$i\ne j$ 時,li(xj)=0$l_i(x_j)=0$ ,故

li(x)=ci∏k=0,k≠in(x−xk)$$l_i(x)=c_i\prod _{k=0,k\ne i}^n(x-x_k)$$

又對於ci$c_i$ 由於li(xj)=1$l_i(x_j)=1$ 當僅當i=j$i=j$ ,故

li(xi)=ci∏k=0,k≠in(xi−xk)=1$$l_i(x_i)=c_i\prod _{k=0,k\ne i}^n(x_i-x_k)=1$$

所以可以得到

ci=∏k=0,k≠in(xi−xk)−1$$c_i=\prod _{k=0,k\ne i}^n{(x_i-x_k)}^{-1}$$

我們將ci$c_i$ 回代回去,則有

li(x)=∏k=0,k≠in(x−xk)(xi−xk)$$l_i(x)=\prod _{k=0,k\ne i}^n\frac{(x-x_k)}{(x_i-x_k)}$$

令

Ln(x)=∑i=0nyili(x)=∑i=0n(yi∏k=0,k≠in(x−xk)(xi−xk))$$L_n(x)=\sum _{i=0}^n{y}_i{l}_i(x)=\sum _{i=0}^n\left(y_i\prod _{k=0,k\ne i}^n\frac{(x-x_k)}{(x_i-x_k)}\right)$$

上式即爲所求的Lagarange插值函數

這裏爲了運算記錄方便, 記

ωn+1(x)=∏k=0n(x−xk)$${\omega }_{n+1}(x)=\prod _{k=0}^n(x-x_k)$$

則有

ω′n+1(xi)=∏k=0,k≠in(xi−xk),ωn+1(x)x−xi=∏k=0,k≠in(x−xk)$${\omega }_{n+1}^{\prime }(x_i)=\prod _{k=0,k\ne i}^n(x_i-x_k),\frac{{\omega }_{n+1}(x)}{x-x_i}=\prod _{k=0,k\ne i}^n(x-x_k)$$

故

Ln(x)=∑i=0n(yiωn+1(x)(x−xi)ω′n+1(xi))$$L_n(x)=\sum _{i=0}^n\left(y_i\frac{{\omega }_{n+1}(x)}{(x-x_i){\omega }_{n+1}^{\prime }(x_i)}\right)$$

下面繼續討論Lagrange插值的誤差,引入誤差餘項

R(x)≡f(x)−Ln(x)$$R(x)\equiv f(x)-L_n(x)$$

我們引入一個輔助函數
令

F(t)=f(t)−Ln(t)−K(x)ωn+1(t),t∈[a,b],x≠xi,i=0,1,2,…$$F(t)=f(t)-L_n(t)-K(x){\omega }_{n+1}(t),t\in [a,b],x\ne x_i,i=0,1,2,\dots$$

這裏面對於輔助函數的構造,其中末尾一項是保證當x等於節點中的一個時,誤差爲0
其中

K(x)ωn+1(x)=f(x)−Ln(x)$$K(x){\omega }_{n+1}(x)=f(x)-L_n(x)$$

t=x0,x1,…,xn$$t=x_0,x_1,\dots ,x_n$$

是輔助函數的n+2個相異的零點

注意到Rolle定理

φ(x),x∈[a,b],φ(a)=φ(b)=0,其中φ(x)滿足連續等條件,則必有ξ∈[a,b],使得φ′(ξ)=0$$\phi (x),x\in [a,b],\phi (a)=\phi (b)=0,其中\phi (x)滿足連續等條件,則必有\xi \in [a,b],使得{\phi }^{\prime }(\xi )=0$$

F(t)=f(t)−Ln(t)−K(x)ωn+1(t),對F(t),F′(t),....應用Rolle定理$$F(t)=f(t)-L_n(t)-K(x){\omega }_{n+1}(t),對F(t),F^{\prime }(t),....應用Rolle定理$$

必有ξ∈[a,b],使得F(n+1)(ξ)=0,故f(n+!)(ξ)−K(x)(n+1)!=0故K(x)=f(n+1)(x)(n+1)!從而Rn(x)=f(n+1)(x)(n+1)!ωn+!(x)$$\begin{gathered} 必有\xi \in [a,b],使得F^{(n+1)}(\xi )=0,故f^{(n+!)}(\xi )-K(x)(n+1)!=0 \\ 故K(x)=\frac{f^{(n+1)}(x)}{(n+1)!} \\ 從而R_n(x)=\frac{f^{(n+1)}(x)}{(n+1)!}{\omega }_{n+!}(x) \end{gathered}$$

以上是關於Lagrange插值的介紹,針對Lagrange插值,節點個數的增加或者減少的時候,插值基函數需要變動,爲了解決這一問題,我們引入Newton插值

Nn(x)=a0+a1(x−x0)+⋯+an(x−x0)(x−x1)⋯(x−xn)also defineNn−1(x)=a0+a1(x−x0)+⋯+an−1(x−x0)(x−x1)⋯(x−xn−1)For  xi (i=0,1,⋯,n−1)   Nn−1(x)=Nn(x)=yiSo  Nn(x)−Nn−1(x)=c(x−x0)(x−x1)⋯(x−xn−1)When  x=xnNn(xn)−Nn−1(xn)=yn−Nn−1(xn)=c∏i=0n−1(x−xi)We can get c=[yn−Nn−1(x)]∏i=0n−1(x−xi)−1Pay attention to thatNn−1(x)=∑i=0n−1yili(xn)=∑i=0n−1(yi∏k=0,k≠in−1(xn−xkxi−xk))So  c=yn∏i=0n−1(xn−xi)−1−Nn−1(xn)∏i=0n−1(xn−xi)−1Nn−1(xn)∏i=0n−1(xn−xi)−1=∑i=0n−1(yi∏k=0,k≠in−1(xn−xkxi−xk))/∏i=0n−1(xn−xi)SoNn−1(xn)∏i=0n−1(xn−xi)−1=−∑i=0n−1(yi∏k=0,k≠in(xi−xk)−1)We can get   c=yn∏i=0n−1(xn−xi)−1+∑i=1n−1(yi∏k=0,k≠in(xi−xk)−1)Because of thatWe get.   Nn(x)−Nn−1(x)=c∏i=0n−1(x−xi)=[∑i=1n−1(yi∏k=0,k≠in(xi−xk)−1)]∑i=0n−1(x−xi)$$\begin{gathered} N_n(x)=a_0+a_1(x-x_0)+\cdots +a_n(x-x_0)(x-x_1)\cdots (x-x_n) \\ alsodefine{N}_{n-1}(x)=a_0+a_1(x-x_0)+\cdots +a_{n-1}(x-x_0)(x-x_1)\cdots (x-x_{n-1}) \\ For{x}_i(i=0,1,\cdots ,n-1)N_{n-1}(x)=N_n(x)=y_i \\ So{N}_n(x)-N_{n-1}(x)=c(x-x_0)(x-x_1)\cdots (x-x_{n-1}) \\ Whenx=x_n \\ {N}_n(x_n)-N_{n-1}(x_n)=y_n-N_{n-1}(x_n)=c\prod _{i=0}^{n-1}(x-x_i) \\ Wecangetc=[y_n-N_{n-1}(x)]\prod _{i=0}^{n-1}(x-x_i{)}^{-1} \\ Payattentiontothat \\ {N}_{n-1}(x)=\sum _{i=0}^{n-1}{y}_i{l}_i(x_n)=\sum _{i=0}^{n-1}\left(y_i\prod _{k=0,k\ne i}^{n-1}\left(\frac{x_n-x_k}{x_i-x_k}\right)\right) \\ Soc=y_n\prod _{i=0}^{n-1}(x_n-x_i{)}^{-1}-N_{n-1}(x_n)\prod _{i=0}^{n-1}(x_n-x_i{)}^{-1} \\ {N}_{n-1}(x_n)\prod _{i=0}^{n-1}(x_n-x_i{)}^{-1}=\sum _{i=0}^{n-1}\left(y_i\prod _{k=0,k\ne i}^{n-1}\left(\frac{x_n-x_k}{x_i-x_k}\right)\right)/\prod _{i=0}^{n-1}(x_n-x_i) \\ So \\ {N}_{n-1}(x_n)\prod _{i=0}^{n-1}(x_n-x_i{)}^{-1}=-\sum _{i=0}^{n-1}\left(y_i\prod _{k=0,k\ne i}^n(x_i-x_k{)}^{-1}\right) \\ Wecangetc=y_n\prod _{i=0}^{n-1}(x_n-x_i{)}^{-1}+\sum _{i=1}^{n-1}\left(y_i\prod _{k=0,k\ne i}^n(x_i-x_k{)}^{-1}\right) \\ Becauseofthat \\ Weget.N_n(x)-N_{n-1}(x)=c\prod _{i=0}^{n-1}(x-x_i)=\left[\sum _{i=1}^{n-1}\left(y_i\prod _{k=0,k\ne i}^n(x_i-x_k{)}^{-1}\right)\right]\sum _{i=0}^{n-1}(x-x_i) \end{gathered}$$

這裏引入差商(Difference Quotient)的概念

Let. f[x0,⋯,xn]=∑i=1n−1(yi∏k=0,k≠in(xi−xk)−1)Nn(x)=f[x0]+f[x0,x1](x0−x1)+⋯+f[x0,x1,⋯,xn]∏i=0n−1(x−xi)The Difference Quotient is like thatf[xi,xj]=f(xi)−f(xj)xi−xj ,  f[xi,xj,xk]=f[xi,xj]−f[xj,xk]xi−xk$$\begin{gathered} Let.f[x_0,\cdots ,x_n]=\sum _{i=1}^{n-1}\left(y_i\prod _{k=0,k\ne i}^n(x_i-x_k{)}^{-1}\right) \\ {N}_n(x)=f[x_0]+f[x_0,x_1](x_0-x_1)+\cdots +f[x_0,x_1,\cdots ,x_n]\prod _{i=0}^{n-1}(x-x_i) \\ TheDifferenceQuotientislikethat \\ f[x_i,x_j]=\frac{f(x_i)-f(x_j)}{x_i-x_j},f[x_i,x_j,x_k]=\frac{f[x_i,x_j]-f[x_j,x_k]}{x_i-x_k} \end{gathered}$$

我們可以利用這裏的差商的概念寫出Newton插值公式

Nn(x)=f(x0)+f[x0,x1](x0−x1)+⋯+f[x0,x1,⋯,xn](x−x0)(x−x1)⋯(x−xn−1)$$N_n(x)=f(x_0)+f[x_0,x_1](x_0-x_1)+\cdots +f[x_0,x_1,\cdots ,x_n](x-x_0)(x-x_1)\cdots (x-x_{n-1})$$

其實Newton插值公式和Lagrange插值公式其實本質上是一樣的,只不過是書寫的方式不同,但是這樣的不同的書寫方式在實際操作中帶來了很大的便利,當需要增加一個插值點的時候,只需要在原插值多項式的後面再添加一個新的項就可以了

有時候我們不但要求插值函數P(x)在節點處的函數值與被插值函數f(x)的值相等,而且要求在節點處的導數值也相等,這就引出了了一種新的插值方案Hermit插值

Given f(x), and n+1 different points x0,x1,⋯,xnLet f(xi)=yi    f′(xi)=y′iWe can construct a polynomialH2n+1(xi)=yi    H′2n+1(xi)=y′i$$\begin{gathered} Givenf(x),andn+1differentpoints{x}_0,x_1,\cdots ,x_n \\ Letf(x_i)=y_i{f}^{\prime }(x_i)=y_i^{\prime } \\ Wecanconstructapolynomial \\ {H}_{2n+1}(x_i)=y_i{H}_{2n+1}^{\prime }(x_i)=y_i^{\prime } \end{gathered}$$

我們這次要構造的多項式比起之前的lagrange多項式,多了導數值相等的條件,那我們就利用兩組基函數來試着構造這一多項式

l0j(xi)=δij, l′0j(xi)=0l1j(xi)=0, l′1j(xi)=δijSo we get the simple polynomial :  H2n+1(x)=∑j=0nyjl0j(x)+∑j=0ny′jl1j(x)When i≠j ,l0j(xi) and l0j(xi)′ always equal zeroBecause of that ,Assume l0j(x)=(ax+b)l2j(x){(axj+b)l2j(xj)=1lj(xj)[alj(xj)+2(axj+b)l′j(xj)]=0(3)(4)About the second formula , turned from "al2j(xj)+2lj(xj)l′j(xj)(axj+b)"That means we just to solve the following:axj+b=1   and   a+2(axj+b)l′j(xj)=0We get that : a=−2l′j(xj),  b=1+2xjl′j(xj)Similarly l1j(x)=(cx+d)lj(xj)And we also get c=1 and d=−xjSo we can easily build H2n+1(x)The result is that H2n+1(x)=∑j=0nyj[2(xj−x)l′j(x)+1]l2j(x)+∑j=0ny′j[(x−xj)l2j(x)]Do some job about making formula neatWe get that H2n+1(x)=∑j=0nl2j(x)[yj+(x−xj)(y′j−2yj)l′j(xj)]$$\begin{gathered} l_{0j}(x_i)={\delta }_{ij},l_{0j}^{\prime }(x_i)=0 \\ {l}_{1j}(x_i)=0,l_{1j}^{\prime }(x_i)={\delta }_{ij} \\ Sowegetthesimplepolynomial:H_{2n+1}(x)=\sum _{j=0}^n{y}_j{l}_{0j}(x)+\sum _{j=0}^n{y}_j^{\prime }{l}_{1j}(x) \\ Wheni\ne j,l_{0j}(x_i)and{l}_{0j}(x_i{)}^{\prime }alwaysequalzero \\ Becauseofthat,Assume{l}_{0j}(x)=(ax+b)l_j^2(x) \\ \{\begin{array}{}\text{(3)}& (a{x}_j+b)l_j^2(x_j)=1\text{(4)}& l_j(x_j)[a{l}_j(x_j)+2(a{x}_j+b)l_j^{\prime }(x_j)]=0\end{array} \\ Aboutthesecondformula,turnedfrom"a{l}_j^2(x_j)+2l_j(x_j)l_j^{\prime }(x_j)(a{x}_j+b)" \\ Thatmeanswejusttosolvethefollowing: \\ a{x}_j+b=1anda+2(a{x}_j+b)l_j^{\prime }(x_j)=0 \\ Wegetthat:a=-2l_j^{\prime }(x_j),b=1+2x_j{l}_j^{\prime }(x_j) \\ Similarly{l}_{1j}(x)=(cx+d)l_j(x_j) \\ Andwealsogetc=1andd=-x_j \\ Sowecaneasilybuild{H}_{2n+1}(x) \\ Theresultisthat{H}_{2n+1}(x)=\sum _{j=0}^n{y}_j[2(x_j-x)l_j^{\prime }(x)+1]l_j^2(x)+\sum _{j=0}^n{y}_j^{\prime }[(x-x_j)l_j^2(x)] \\ Dosomejobaboutmakingformulaneat \\ Wegetthat{H}_{2n+1}(x)=\sum _{j=0}^n{l}_j^2(x)[y_j+(x-x_j)(y_j^{\prime }-2y_j)l_j^{\prime }(x_j)] \end{gathered}$$

這裏我們需要提及的是,使用上述方法對各個節點進行插值的時候,很有可能在端點處產生一定程度的Runge現象,解決的手段可以使用分段線性插值構造出一系列的分段函數,對於分段線性插值,我們可以理解爲對於多個劃分的子區間進行Lagrange插值得到的一系列分段函數,當然分段插值也有非線性的,例如分段的二次插值,就是在劃分的多個子區間上使用Lagrange2次插值.

這裏由於某些教材的不同,可能介紹了Hermit三次插值的方案,在上述的公式中可以令n=1即可.