編碼器與解碼器
神經網絡本質上就是一個線性變換，通過將輸入的多維向量與權重矩陣相乘，得到一個新的多維向量。
- 當輸入向量的維度高於輸出向量的維度是，神經網絡就相當於一個編碼器，實現了對高維向量的低維特徵提取..
- 當輸入向量維度低於輸出向量維度時，神經網絡就相當於一個解碼器，實現了地位向量到高維向量的重構。
然而，普通的神經網絡僅能對向量進行操作，常見的圖像、音頻等高維數據都需要展開成向量才能輸出給神經網絡，着大大破壞了數據在空間上的位置信息。
卷積與反捲積操作使得神經網絡可以處理二維以上的數據，它最大的好處在於：1、保持了數據在空間上的位置信息；2、權重共享使得計算複雜度大大降低。