卷積神經網絡的“卷積”操作不等於數學上定義的卷積操作

在介紹卷積神經網絡CNN的時候，大部分教材在介紹“卷積操作”的時候都與下面這張圖類似的說明

這點讓人很困惑，因爲在數學上，卷積運算是這麼定義的
$(f * g )(t) = \int_{0}^{t} f(\tau) g(t - \tau)\, d\tau$

很明顯，在與$f(\tau)$相乘的是$g(t-\tau)$，而不是$g(t+\tau)$！而上圖的卷積運算並不符合卷積的定義。事實上，卷積神經網絡中的“卷積”操作其實是互相關運算(correlation operator)，而不是卷積運算(convolution operator)。他們的區別在於，卷積運算相當於把kernel進行上下左右翻轉之後，再進行互相關運算。