加速技巧---Conv BN的融合

 網絡完成訓練後，在inference階段，爲了加速運算，通常將卷積層和BN層進行融合：

卷積層：

BN層：

融合兩層： 將Conv層的公式帶入到BN層的公式

融合後相當於：

【tips：inference階段，E[x]爲滑動均值，Var[x]爲滑動方差】

將BN層融合到卷積層中，相當於對卷積核進行一定的修改，沒有增加捲積的計算量，同時整個BN層的計算量都省去了。