第二課 到底什麼是頻率 什麼是系統?
這一篇，我展開的說一下傅立葉變換F。注意，傅立葉變換的名字F可以表示頻率的概念(freqence)，也可以包括其他任何概念，因爲它只是一個概念模 型，爲了解決計算的問題而構造出來的(例如時域無限長的輸入信號，怎麼得到輸出信號)。我們把傅立葉變換看一個C語言的函數，信號的輸出輸出問題看爲IO 的問題，然後任何難以求解的x->y的問題都可以用x->f(x)->f-1(x)->y來得到。
1. 到底什麼是頻率? 一個基本的假設: 任何信息都具有頻率方面的特性，音頻信號的聲音高低，光的頻譜，電子震盪的週期，等等，我們抽象出一個件諧振動的概念，數學名稱就叫做頻率。想象在x-y 平面上有一個原子圍繞原點做半徑爲1勻速圓周運動，把x軸想象成時間，那麼該圓周運動在y軸上的投影就是一個sin(t)的波形。相信中學生都能理解這 個。 那麼，不同的頻率模型其實就對應了不同的圓周運動速度。圓周運動的速度越快，sin(t)的波形越窄。頻率的縮放有兩種模式(a) 老式的收音機都是用磁帶作爲音樂介質的，當我們快放的時候，我們會感覺歌唱的聲音變得怪怪的，調子很高，那是因爲"圓周運動"的速度增倍了，每一個聲音分量的sin(t)輸出變成了sin(nt)。(b) 在CD/計算機上面快放或滿放感覺歌手快唱或者慢唱，不會出現音調變高的現象：因爲快放的時候採用了時域採樣的方法，丟棄了一些波形，但是承載了信息的輸出波形不會有寬窄的變化；滿放時相反，時域信號填充拉長就可以了。
2. F變換得到的結果有負數/複數部分，有什麼物理意義嗎? 解釋: F變換是個數學工具，不具有直接的物理意義，負數/複數的存在只是爲了計算的完整性。
3. 信號與系統這們課的基本主旨是什麼? 對於通信和電子類的學生來說，很多情況下我們的工作是設計或者OSI七層模型當中的物理層技術，這種技術的複雜性首先在於你必須確立傳輸介質的電氣特性， 通常不同傳輸介質對於不同頻率段的信號有不同的處理能力。以太網線處理基帶信號，廣域網光線傳出高頻調製信號，移動通信，2G和3G分別需要有不同的載頻 特性。那麼這些介質(空氣，電線，光纖等)對於某種頻率的輸入是否能夠在傳輸了一定的距離之後得到基本不變的輸入呢? 那麼我們就要建立介質的頻率相應數學模型。同時，知道了介質的頻率特性，如何設計在它上面傳輸的信號才能大到理論上的最大傳輸速率?----這就是信號與 系統這們課帶領我們進入的一個世界。 當然，信號與系統的應用不止這些，和香農的信息理論掛鉤，它還可以用於信息處理(聲音，圖像)，模式識別，智能控制等領域。如果說，計算機專業的課程是數 據表達的邏輯模型，那麼信號與系統建立的就是更底層的，代表了某種物理意義的數學模型。數據結構的知識能解決邏輯信息的編碼和糾錯，而信號的知識能幫我們 設計出碼流的物理載體(如果接受到的信號波形是混亂的，那我依據什麼來判斷這個是1還是0? 邏輯上的糾錯就失去了意義)。在工業控制領域，計算機的應用前提是各種數模轉換，那麼各種物理現象產生的連續模擬信號(溫度，電阻，大小，壓力，速度等) 如何被一個特定設備轉換爲有意義的數字信號，首先我們就要設計一個可用的數學轉換模型。
4. 如何設計系統? 設計物理上的系統函數(連續的或離散的狀態)，有輸入，有輸出，而中間的處理過程和具體的物理實現相關，不是這們課關心的重點(電子電路設計?)。信號與 系統歸根到底就是爲了特定的需求來設計一個系統函數。設計出系統函數的前提是把輸入和輸出都用函數來表示(例如sin(t))。分析的方法就是把一個複雜 的信號分解爲若干個簡單的信號累加，具體的過程就是一大堆微積分的東西，具體的數學運算不是這門課的中心思想。 那麼系統有那些種類呢?(a) 按功能分類: 調製解調(信號抽樣和重構)，疊加，濾波，功放，相位調整，信號時鐘同步，負反饋鎖相環，以及若干子系統組成的一個更爲複雜的系統----你可以畫出系統 流程圖，是不是很接近編寫程序的邏輯流程圖? 確實在符號的空間裏它們沒有區別。還有就是離散狀態的數字信號處理(後續課程)。(b) 按系統類別劃分，無狀態系統，有限狀態機，線性系統等。而物理層的連續系統函數，是一種複雜的線性系統。
5. 最好的教材? 符號系統的核心是集合論，不是微積分，沒有集合論構造出來的系統，實現用到的微積分便毫無意義----你甚至不知道運算了半天到底是要作什麼。以計算機的觀點來學習信號與系統，最好的教材之一就是《信號與系統的結構與解釋》， 作者是UC Berkeley的Edward A.Lee and Pravin Varaiya----先定義再實現，符合人類的思維習慣。國內的教材通篇都是數學推導，就是不肯說這些推導是爲了什麼目的來做的，用來得到什麼，建設什 麼，防止什麼；不去從認識論和需求上討論，通篇都是看不出目的的方法論，本末倒置了。
2. 再舉一個例子，對於數字圖像，抽樣定理對應於圖片的分辨率----抽樣密度越大，圖片的分辨率越高，也就越清晰。如果我們的抽樣頻率不夠，信息就會發生混 疊----網上有一幅圖片，近視眼戴眼鏡看到的是愛因斯坦，摘掉眼睛看到的是夢露----因爲不帶眼睛，分辨率不夠(抽樣頻率太低)，高頻分量失真被混入 了低頻分量，才造成了一個視覺陷阱。在這裏，圖像的F變化，對應的是空間頻率。 話說回來了，直接在信道上傳原始語音信號不好嗎? 模擬信號沒有抗干擾能力，沒有糾錯能力，抽樣得到的信號，有了數字特性，傳輸性能更佳。 什麼信號不能理想抽樣?
時域有跳變，頻域無窮寬，例如方波信號。如果用有限帶寬的抽樣信號表示它，相當於複利葉級數取了部分和，而這個部分和在恢復原始信號的時候，在不可導的點上面會有毛刺，也叫吉布斯現象。
3. 爲什麼傅立葉想出了這麼一個級數來? 這個源於西方哲學和科學的基本思想: 正交分析方法。例如研究一個立體形狀，我們使用x,y,z三個互相正交的軸: 任何一個軸在其他軸上面的投影都是0。這樣的話，一個物體的3視圖就可以完全表達它的形狀。同理，信號怎麼分解和分析呢? 用互相正交的三角函數分量的無限和：這就是傅立葉的貢獻。
數的概念是這樣被推廣的: 什麼數x使得x^2=-1? 實數軸顯然不行，(-1)*(-1)=1。那麼如果存在一個抽象空間，它既包括真實世界的實數，也能包括想象出來的x^2=-1，那麼我們稱這個想象空間 爲"複數域"。那麼實數的運算法則就是複數域的一個特例。爲什麼1*(-1)=-1? +-符號在複數域裏面代表方向，-1就是"向後，轉!"這樣的命令，一個1在圓周運動180度以後變成了-1，這裏，直線的數軸和圓周旋轉，在複數的空間 裏面被統一了。
因此，(-1)*(-1)=1可以解釋爲"向後轉"+"向後轉"=回到原地。那麼複數域如何表示x^2=-1呢? 很簡單，"向左轉"，"向左轉"兩次相當於"向後轉"。由於單軸的實數域(直線)不包含這樣的元素，所以複數域必須由兩個正交的數軸表示--平面。很明 顯，我們可以得到複數域乘法的一個特性，就是結果的絕對值爲兩個複數絕對值相乘，旋轉的角度=兩個複數的旋轉角度相加。高中時代我們就學習了迪莫弗定理。 爲什麼有這樣的乘法性質? 不是因爲複數域恰好具有這樣的乘法性質(性質決定認識)，而是發明複數域的人就是根據這樣的需求去弄出了這麼一個複數域(認識決定性質)，是一種主觀唯心 主義的研究方法。爲了構造x^2=-1，我們必須考慮把乘法看爲兩個元素構成的集合: 乘積和角度旋轉。
因爲三角函數可以看爲圓周運動的一種投影，所以，在複數域，三角函數和乘法運算(指數)被統一了。我們從實數域的傅立葉級數展開入手，立刻可以得到形式更 簡單的，複數域的，和實數域一一對應的傅立葉複數級數。因爲複數域形式簡單，所以研究起來方便----雖然自然界不存在複數，但是由於和實數域的級數一一 對應，我們做個反映射就能得到有物理意義的結果。 那麼傅立葉變換，那個令人難以理解的轉換公式是什麼含義呢? 我們可以看一下它和複數域傅立葉級數的關係。什麼是微積分，就是先微分，再積分，傅立葉級數已經作了無限微分了，對應無數個離散的頻率分量衝擊信號的和。 傅立葉變換要解決非週期信號的分析問題，想象這個非週期信號也是一個週期信號: 只是週期爲無窮大，各頻率分量無窮小而已(否則積分的結果就是無窮)。那麼我們看到傅立葉級數，每個分量常數的求解過程，積分的區間就是從T變成了正負無 窮大。而由於每個頻率分量的常數無窮小，那麼讓每個分量都去除以f，就得到有值的數----所以周期函數的傅立葉變換對應一堆脈衝函數。同理，各個頻率分 量之間無限的接近，因爲f很小，級數中的f，2f，3f之間幾乎是挨着的，最後捱到了一起，和卷積一樣，這個複數頻率空間的級數求和最終可以變成一個積分 式：傅立葉級數變成了傅立葉變換。注意有個概念的變化：離散的頻率，每個頻率都有一個"權"值，而連續的F域，每個頻率的加權值都是無窮小(面積=0)， 只有一個頻率範圍內的"頻譜"纔對應一定的能量積分。頻率點變成了頻譜的線。 因此傅立葉變換求出來的是一個通常是一個連續函數，是複數頻率域上面的可以畫出圖像的東西? 那個根號2Pai又是什麼? 它只是爲了保證正變換反變換回來以後，信號不變。我們可以讓正變換除以2，讓反變換除以Pi，怎麼都行。慢點，怎麼有"負數"的部分，還是那句話，是數軸 的方向對應複數軸的旋轉，或者對應三角函數的相位分量，這樣說就很好理解了。有什麼好處? 我們忽略相位，只研究"振幅"因素，就能看到實數頻率域內的頻率特性了。 我們從實數(三角函數分解)->複數(e和Pi)->複數變換(F)->複數反變換(F-1)->複數(取幅度分量)-> 實數，看起來很複雜，但是這個工具使得，單從實數域無法解決的頻率分析問題，變得可以解決了。兩者之間的關係是: 傅立葉級數中的頻率幅度分量是a1-an,b1-bn，這些離散的數表示頻率特性，每個數都是積分的結果。而傅立葉變換的結果是一個連續函數: 對於f域每個取值點a1-aN(N=無窮)，它的值都是原始的時域函數和一個三角函數(表示成了複數)積分的結果----這個求解和級數的表示形式是一樣 的。不過是把N個離散的積分式子統一爲了一個通用的，連續的積分式子。 複頻域，大家都說畫不出來，但是我來畫一下！因爲不是一個圖能夠表示清楚的。我用純中文來說:
1. 畫一個x,y軸組成的平面，以原點爲中心畫一個圓(r=1)。再畫一條豎直線: (直線方程x=2)，把它看成是一塊擋板。
2. 想象，有一個原子，從(1,0)點出發，沿着這個圓作逆時針勻速圓周運動。想象太陽光從x軸的複數方向射向x軸的正數方向，那麼這個原子運動在擋板(x=2)上面的投影，就是一個簡協震動。
3. 再修改一下，x=2對應的不是一個擋板，而是一個打印機的出紙口，那麼，原子運動的過程就在白紙上畫下了一條連續的sin(t)曲線! 上面3條說明了什麼呢? 三角函數和圓周運動是一一對應的。如果我想要sin(t+x)，或者cos(t)這種形式，我只需要讓原子的起始位置改變一下就可以了：也就是級座標的向量，半徑不變，相位改變。
傅立葉級數的實數展開形式，每一個頻率分量都表示爲AnCos(nt)+BnSin(nt)，我們可以證明，這個式子可以變成 sqr(An^2+Bn^2)sin(nt+x)這樣的單個三角函數形式，那麼：實數值對(An,Bn)，就對應了二維平面上面的一個點，相位x對應這個 點的相位。實數和複數之間的一一對應關係便建立起來了，因此實數頻率唯一對應某個複數頻率，我們就可以用複數來方便的研究實數的運算：把三角運算變成指數 和乘法加法運算。
-------------------------------------------------------------------------
但是，F變換仍然是有限制的(輸入函數的表示必須滿足狄義赫立條件等)，爲了更廣泛的使用"域"變換的思想來表示一種"廣義"的頻率信息，我們就發明出了 拉普拉斯變換，它的連續形式對應F變換，離散形式就成了Z變換。離散信號呢? 離散周期函數的F級數，項數有限，離散非周期函數(看爲週期延拓以後仍然是離散周期函數)，離散F級數，仍然項數有限。離散的F變換，很容易理解---- 連續信號通過一個週期採樣濾波器，也就是頻率域和一堆脈衝相乘。時域取樣對應頻域週期延拓。爲什麼? 反過來容易理解了，時域的週期延拓對應頻率域的一堆脈衝。
兩者的區別：FT=從負無窮到正無窮對積分 LT=從零到正無窮對積分 (由於實際應用，通常只做單邊Laplace變換，即積分從零開始) 具體地，在Fourier積分變換中，所乘因子爲exp(-jwt)，此處，-jwt顯然是爲一純虛數；而在laplace變換中，所乘因子爲 exp(-st)，其中s爲一複數：s=D+jw,jw是爲虛部，相當於Fourier變換中的jwt，而D則是實部，作爲衰減因子，這樣就能將許多無法 作Fourier變換的函數（比如exp(at),a>0）做域變換。 而Z變換，簡單地說，就是離散信號(也可以叫做序列)的Laplace變換，可由抽樣信號的Laplace變換導出。ZT=從n爲負無窮到正 無窮對求和。Z域的物理意義: 由於值被離散了，所以輸入輸出的過程和花費的物理時間已經沒有了必然的關係(t只對連續信號有意義)，所以頻域的考察變得及其簡單起來，我們把 (1,-1,1,-1,1,-1)這樣的基本序列看成是數字頻率最高的序列，他的數字頻率是1Hz(數字角頻率2Pi)，其他的數字序列頻率都是N分之 1Hz，頻率分解的結果就是0-2Pi角頻率當中的若干個值的集合，也是一堆離散的數。由於時頻都是離散的，所以在做變換的時候，不需要寫出衝擊函數的因 子 離散傅立葉變換到快速傅立葉變換----由於離散傅立葉變換的次數是O(N^2)，於是我們考慮把離散序列分解成兩兩一組進行離散傅立葉變換，變換的計算複雜度就下降到了O(NlogN)，再把計算的結果累加O(N)，這就大大降低了計算複雜度。
再說一個高級話題: 小波。在實際的工程應用中，前面所說的這些變換大部分都已經被小波變換代替了。
什麼是小波？先說什麼是波：傅立葉級數裏面的分量，sin/cos函數就是波，sin(t)/cos(t)經過幅度的放縮和頻率的收緊，變成了一系列的波 的求和，一致收斂於原始函數。注意傅立葉級數求和的收斂性是對於整個數軸而言的，嚴格的。不過前面我們說了，實際應用FFT的時候，我們只需要關注部分信 號的傅立葉變換然後求出一個整體和就可以了，那麼對於函數的部分分量，我們只需要保證這個用來充當磚塊的"波函數"，在某個區間(用窗函數來濾波)內符合 那幾個可積分和收斂的定義就可以了，因此傅立葉變換的"波"因子，就可以不使用三角函數，而是使用一系列從某些基本函數構造出來的函數族，只要這個基本函 數符合那些收斂和正交的條件就可以了。怎麼構造這樣的基本函數呢？sin(t)被加了方形窗以後，映射到頻域是一堆無窮的散列脈衝，所以不能再用三角函數 了。我們要得到頻率域收斂性好的函數族，能覆蓋頻率域的低端部分。說的遠一點，如果是取數字信號的小波變換，那麼基礎小波要保證數字角頻率是最大的 2Pi。利用小波進行離頻譜分析的方法，不是像傅立葉級數那樣求出所有的頻率分量，也不是向傅立葉變換那樣看頻譜特性，而是做某種濾波，看看在某種數字角 頻率的波峯值大概是多少。可以根據實際需要得到如干個數字序列。
我們採用(0,f),(f,2f),(2f,4f)這樣的倍頻關係來考察函數族的頻率特性，那麼對應的時間波形就是倍數擴展(且包含調製---所以纔有頻 譜搬移)的一系列函數族。頻域是窗函數的基本函數，時域就是鐘形函數。當然其他類型的小波，雖然頻率域不是窗函數，但是仍然可用：因爲小波積分求出來的變 換，是一個值，例如(0,f)裏包含的總能量值，(f,2f)裏面包含的總能量值。所以即使頻域的分割不是用長方形而是其他的圖形，對於結果來說影響不 大。同時，這個頻率域的值，它的分辨率密度和時域小波基函數的時間分辨率是衝突的(時域緊頻域寬，時域寬頻域緊)，所以設計的時候受到海森堡測不準原理的 制約。Jpeg2000壓縮就是小波：因爲時頻都是局部的，變換結果是數值點而不是向量，所以，計算複雜度從FFT的O(NlgN)下降到了O(N)，性 能非常好。 用中文說了這麼多，基本的思想已經表達清楚了，爲了"研究方便"，從實數傅立葉級數展開，到創造了複數域的傅立葉級數展開，再到傅立葉變換，再擴展到拉式變換，再爲了時頻都離散的情況簡化爲Z變換，全部都用一根主線聯繫起來了。
最後總結一句：真正的認知是要知道爲什麼，而不是簡單的知道怎麼做！