傅里葉變換前傳：基礎知識（卷積、內積、正交）

線性系統和卷積積分

接受一個輸入，併產生相應輸出的實體就是一個系統。對於一個特定的系統，它的輸入、輸出可以看做是相同變量的不同函數。

假定一個系統，當其輸入爲時，輸出分別爲，若滿足【疊加性】，則該系統爲線性系統。由此還可以得到，【均勻性 / 齊次性】。

如果對於某線性系統，其輸入輸出關係爲，當輸入信號沿着時間軸平移T，有，則稱該線性系統具有移不變性（非時變性），就是系統的參數不隨時間而變化。

對於一個線性系統的輸入和輸出，兩者之間必定存在關係：

               式（1-1）

其中， 稱爲線性系統的單位衝激響應函數，也就是當線性系統輸入單位脈衝函數 （在除了零以外的點都等於零，而其在整個定義域上的積分等於1）時線性系統的輸出響應。式（1-1）就被稱爲卷積積分，一般用 * 表示。

也可以從下面的變化關係中理解卷積積分的概念。

式（1-1）表示的連續一維卷積積分的運算公式，相應地有：

離散一維卷積：

連續二維卷積： 

離散二維卷積：

最後再引入相關的概念，通過相關和卷積的關係，我們可以在一些情況下較爲方便的求解卷積函數：

內積的定義

我們知道，對於 上的兩個矢量  和 ，其內積的定義爲：

              式（2-1）

內積的定義與矢量的長度是聯繫起來的，比如我們最熟悉的矢量的長度計算，其實也是內積計算：

                     式（2-2）

在研究傅里葉級數時，我們將會大量用到復指數的概念，因此我們還需要討論一下復矢量空間。

對於一個複數，它的共軛記爲 。我們知道，複數的模的計算公式爲：

      式（2-3）

在復矢量空間中，內積的定義有一個小小的改變—— 若 、 是上的兩個矢量，那麼有：

                                                          式（2-4）

共軛的目的是爲了保證上的矢量長度爲實數且非負。

同理，復矢量空間中矢量的長度可以表示爲：

             式（1-5）

定義了內積的矢量空間稱爲內積空間（線性賦範空間+內積運算⟶ 內積空間）。

正交

正交是垂直這一直觀概念的推廣。若內積空間中兩向量的內積爲0，則稱它們是正交的。

函數的正交是向量正交的推廣，函數可以看做是無窮維的向量。對於函數集合，其正交性的定義如下：

在這裏，有一個非常重要的知識點：

n維向量空間中的所有向量，都可以用一組正交基來表示。更爲特殊地，我們將正交基單位化後，可以得到標準正交基，然後向量空間中的所有向量都可以寫成比較簡單的座標形式。那我們將“函數”這個概念和“向量”這個概念融合起來，正如剛纔所說，函數可以看做是一個“無窮維”的向量，那應的，如果有一組由無窮個兩兩正交的函數組成的函數組，那麼在同一空間中的任何一個函數總能表示成由無窮個該函數組中的函數乘以某個係數的和的形式。

用數學語言來說，如果  就是剛纔所說的定義域的一個“正交函數集合”，那麼該定義域內的任一函數都可以表示爲：

正交函數集合的完備性就體現在：