本文轉自：https://blog.csdn.net/neufeifatonju/article/details/80483282
要講小波變換，我們必須瞭解傅立葉變換。要了解傅立葉變換，我們先要弄清楚什麼是”變換“。很多處理，不管是壓縮也好，濾波也好，圖形處理也好，本質都是變換。變換的是什麼東西呢?是基，也就是basis。如果你暫時有些遺忘了basis的定義，那麼簡單說，在線性代數裏，basis是指空間裏一系列線性獨立的向量，而這個空間裏的任何其他向量，都可以由這些個向量的線性組合來表示。那basis在變換裏面啥用呢?比如說吧，傅立葉展開的本質，就是把一個空間中的信號用該空間的某個basis的線性組合表示出來，要這樣表示的原因，是因爲傅立葉變換的本質，是。小波變換自然也不例外的和basis有關了。再比如你用Photoshop去處理圖像，裏面的圖像拉伸，反轉，等等一系列操作，都是和basis的改變有關。
既然這些變換都是在搞基，那我們自然就容易想到，這個basis的選取非常重要，因爲basis的特點決定了具體的計算過程。一個空間中可能有很多種形式的basis，什麼樣的basis比較好，很大程度上取決於這個basis服務於什麼應用。比如如果我們希望選取有利於壓縮的話，那麼就希望這個basis能用其中很少的向量來最大程度地表示信號，這樣即使把別的向量給砍了，信號也不會損失很多。而如果是圖形處理中常見的線性變換，最省計算量的完美basis就是eigenvector basis了，因爲此時變換矩陣T對它們的作用等同於對角矩陣( Tv_n = av_n，a是eigenvalue )。總的來說，拋開具體的應用不談，所有的basis，我們都希望它們有一個共同的特點，那就是，容易計算，用最簡單的方式呈現最多的信號特性。
好，現在我們對變換有了基本的認識，知道他們其實就是在搞基。當然，搞基也是分形式的，不同的變換，搞基的妙處各有不同。接下來先看看，傅立葉變換是在幹嘛。
傅立葉級數最早是Joseph Fourier 這個人提出的，他發現，這個basis不僅僅存在與vector space，還存在於function space。這個function space本質上還是一個linear vector space，可以是有限的，可以是無限的，只不過在這個空間裏，vector就是function了，而對應的標量就是實數或者複數。在vector space裏，你有vector v可以寫成vector basis的線性組合，那在function space裏，function f(x)也可以寫成對應function basis的線性組合，也有norm。你的vector basis可以是正交的，我的function basis也可以是正交的(比如sin(t)和sin(2t))。唯一不同的是，我的function basis是無窮盡的，因爲我的function space的維度是無窮的。好，具體來說，那就是現在我們有一個函數，f(x)。我們希望將它寫成一些cos函數和一些sin函數的形式，像這樣
again，這是一個無限循環的函數。其中的1，cosx, sinx, cos2x …..這些，就是傅立葉級數。傅立葉級數應用如此廣泛的主要原因之一，就是它們這幫子function basis是正交的，這就是有趣的地方了。爲什麼function basis正交如此重要呢?我們說兩個vector正交，那就是他倆的內積爲0。那對於function basis呢?function basis怎麼求內積呢?
現在先複習一下vector正交的定義。我們說兩個vector v,w如果正交的話，應符合：
那什麼是function正交呢?假設我們有兩個函數f(x)和g(x)，那是什麼?我們遵循vector的思路去想，兩個vector求內積，就是把他們相同位置上對應的點的乘積做一個累加。那移過來，就是對每一個x點，對應的f和g做乘積，再累加。不過問題是，f和g都是無限函數阿，x又是一個連續的值。怎麼辦呢?向量是離散的，所以累加，函數是連續的，那就是…….積分!
我們知道函數內積是這樣算的了，自然也就容易證明，按照這個形式去寫的傅立葉展開，這些級數確實都是兩兩正交的。證明過程這裏就不展開了。好，下一個問題就是，爲什麼它們是正交basis如此重要呢?這就牽涉到係數的求解了。我們研究了函數f，研究了級數，一堆三角函數和常數1，那係數呢?a0, a1, a2這些係數該怎麼確定呢?好，比如我這裏準備求a1了。我現在知道什麼?信號f(x)是已知的，傅立葉級數是已知的，我們怎麼求a1呢?很簡單，把方程兩端的所有部分都求和cosx的內積，即：
然後我們發現，因爲正交的性質，右邊所有非a1項全部消失了（選取正交基是爲了方便求係數），因爲他們和cosx的內積都是0!所有就簡化爲
這樣，a1就求解出來了。到這裏，你就看出正交的奇妙性了吧:)
好，現在我們知道，傅立葉變換就是用一系列三角波來表示信號方程的展開，這個信號可以是連續的，可以是離散的。傅立葉所用的function basis是專門挑選的，是正交的，是利於計算coefficients的。但千萬別誤解爲展開變換所用的basis都是正交的，這完全取決於具體的使用需求，比如泰勒展開的basis就只是簡單的非正交多項式。
有了傅立葉變換的基礎，接下來，我們就看看什麼是小波變換。首先來說說什麼是小波。所謂波，就是在時間域或者空間域的震盪方程，比如正弦波，就是一種波。什麼是波分析?針對波的分析拉(囧)。並不是說小波分析才屬於波分析，傅立葉分析也是波分析，因爲正弦波也是一種波嘛。那什麼是小波呢?這個”小“，是針對傅立葉波而言的。傅立葉所用的波是什麼?正弦波，這玩意以有着無窮的能量，同樣的幅度在整個無窮大區間裏面振盪，像下面這樣：
那小波是什麼呢?是一種能量在時域非常集中的波。它的能量是有限的，而且集中在某一點附近。比如下面這樣：
這種小波有什麼好處呢?它對於分析瞬時時變信號非常有用。它有效的從信號中提取信息，通過伸縮和平移等運算功能對函數或信號進行多尺度細化分析，解決了傅立葉變換不能解決的許多困難問題。恩，以上就是通常情況下你能在國內網站上搜到的小波變換文章告訴你的。但爲什麼呢?這是我希望在這個系列文章中講清楚的。不過在這篇文章裏，我先點到爲止，把小波變換的重要特性以及優點cover了，在下一篇文章中再具體推導這些特性。
小波變換的本質和傅立葉變換類似，也是用精心挑選的basis來表示信號方程。每個小波變換都會有一個mother wavelet，我們稱之爲母小波，同時還有一個scaling function，中文是尺度函數，也被成爲父小波。任何小波變換的basis函數，其實就是對這個母小波和父小波縮放和平移後的集合。下面這附圖就是某種小波的示意圖：
從這裏看出，這裏的縮放倍數都是2的級數，平移的大小和當前其縮放的程度有關。這樣的好處是，小波的basis函數既有高頻又有低頻，同時還覆蓋了時域。對於這點，我們會在之後詳細闡述。
小波展開的形式通常都是這樣(注意，這個只是近似表達，嚴謹的展開形式請參考第二篇)：
其中的
就是小波級數，這些級數的組合就形成了小波變換中的基basis。和傅立葉級數有一點不同的是，小波級數通常是orthonormal basis，也就是說，它們不僅兩兩正交，還歸一化了。小波級數通常有很多種，但是都符合下面這些特性：
1. 小波變換對不管是一維還是高維的大部分信號都能cover很好。這個和傅立葉級數有很大區別。後者最擅長的是把一維的，類三角波連續變量函數信號映射到一維繫數序列上，但對於突變信號或任何高維的非三角波信號則幾乎無能爲力。
2. 圍繞小波級數的展開能夠在時域和頻域上同時定位信號，也就是說，信號的大部分能量都能由非常少的展開係數，比如a_{j,k}，決定。這個特性是得益於小波變換是二維變換【j(頻域)，k ；t（時域）】。我們從兩者展開的表達式就可以看出來，傅立葉級數是
，而小波級數是
。
3. 從信號算出展開係數a需要很方便。普遍情況下，小波變換的複雜度是O(Nlog(N))，和FFT相當。有不少很快的變換甚至可以達到O(N)，也就是說，計算複雜度和信號長度是線性的關係。小波變換的等式定義，可以沒有積分，沒有微分，僅僅是乘法和加法即可以做到，和現代計算機的計算指令完全match。
可能看到這裏，你會有點暈了。這些特性是怎麼來的?爲什麼需要有這些特性?具體到實踐中，它們到底是怎麼給小波變換帶來比別人更強的好處的?計算簡單這個可能好理解，因爲前面我們已經講過正交特性了。那麼二維變換呢?頻域和時域定位是如何進行的呢?恩，我完全理解你的感受，因爲當初我看別的文章，也是有這些問題，就是看不到答案。要說想完全理解小波變換的這些本質，需要詳細的講解，所以我就把它放到下一篇了。
接下來，上幾張圖，我們以一些基本的信號處理來呈現小波變換比傅立葉變換好的地方，我保證，你看了這個比較之後，大概能隱約感受到小波變換的強大，並對背後的原理充滿期待:)
假設我們現在有這麼一個信號：
看到了吧，這個信號就是一個直流信號。我們用傅立葉將其展開，會發現形式非常簡單：只有一個級數係數不是0，其他所有級數係數都是0。好，我們再看接下來這個信號：
簡單說，就是在前一個直流信號上，增加了一個突變。其實這個突變，在時域中看來很簡單，前面還是很平滑的直流，後面也是很平滑的直流，就是中間有一個階躍嘛。但是，如果我們再次讓其傅立葉展開呢?所有的傅立葉級數都爲非0了!爲什麼?因爲傅立葉必須用三角波來展開信號，對於這種變換突然而劇烈的信號來講，即使只有一小段變換，傅立葉也不得不用大量的三角波去擬合，就像這樣：
看看上面這個圖。學過基本的信號知識的朋友估計都能想到，這不就是Gibbs現象麼?Exactly。用比較八股的說法來解釋，Gibbs現象是由於展開式在間斷點鄰域不能均勻收斂所引起的，即使在N趨於無窮大時，這一現象也依然存在。其實通俗一點解釋，就是當變化太sharp的時候，三角波fit不過來了，就湊合出Gibbs了:)
接下來我們來看看，如果用剛纔舉例中的那種小波，展開之後是這樣的：
看見了麼?只要小波basis不和這個信號變化重疊，它所對應的級數係數都爲0!也就是說，假如我們就用這個三級小波對此信號展開，那麼只有3個級數（j ，k不同）係數不爲0 。你可以使用更復雜的小波，不管什麼小波，大部分級數係數都會是0。原因?由於小波basis的特殊性，任何小波和常量函數的內積都趨近於0。換句話說，選小波的時候，就需要保證母小波在一個週期的積分趨近於0。正是這個有趣的性質，讓小波變換的計算以及對信號的詮釋比傅立葉變換更勝一籌!原因在於，小波變換允許更加精確的局部描述以及信號特徵的分離。一個傅立葉係數通常表示某個貫穿整個時間域的信號分量，因此，即使是臨時的信號，其特徵也被強扯到了整個時間週期去描述。而小波展開的係數則代表了對應分量它當下的自己，因此非常容易詮釋。
小波變換的優勢不僅僅在這裏。事實上，對於傅立葉變換以及大部分的信號變換系統，他們的函數基都是固定的，那麼變換後的結果只能按部就班被分析推導出來，沒有任何靈活性，比如你如果決定使用傅立葉變換了，那basis function就是正弦波，你不管怎麼scale，它都是正弦波，即使你舉出餘弦波，它還是移相後的正弦波。總之你就只能用正弦波，沒有任何商量的餘地。而對於小波變換來講，基是變的，是可以根據信號來推導或者構建出來的，只要符合小波變換的性質和特點即可。也就是說，如果你有着比較特殊的信號需要處理，你甚至可以構建一個專門針對這種特殊信號的小波basis function集合對其進行分析。這種靈活性是任何別的變換都無法比擬的。總結來說，傅立葉變換適合週期性的，統計特性不隨時間變化的信號; 而小波變換則適用於大部分信號，尤其是瞬時信號。它針對絕大部分信號的壓縮，去噪，檢測效果都特別好。
看到這裏，你應該大概瞭解了小波變換針對傅立葉變換的優點了。你也許對背後的原因還存在一些疑問，並希望深入瞭解一些小波的構建等知識，請移步本系列第二篇：傅立葉變換，小波變換和motion信號處理：第二篇