GoogLeNet模型介紹---inceptionv1,v2,v3,v4原理

        GoogLeNet,核心亮點就是Inception,網絡的最大特點是用全局平均池化取代全連接層,減少了模型計算量,使得模型訓練速度更快並且減輕了過擬合。

      Inception目前已經有v2,V3,V4版本,主要針對解決深層網絡以下3個問題:

  • 參數太多容易過擬合,訓練數據集有限。
  • 網絡越大計算複雜度越大,難以應用。
  • 網絡越深,梯度往後越容易消失,難以優化模型`。

Inception

Inception的核心思想是通過增加網絡深度與寬度並減少參數的方法解決問題,並提高模型精度。Inception的結構是將1x1、3x3、5x5的卷積覈對應的卷積操作和3x3的濾波器對應的池化操作堆疊而成,一方面增加網絡寬度,另一方面增加了網絡對尺度的適應性,結構圖如圖1所示。

Inception v1

Inception v1模型在原有的Inception模型上做了些改進,在3x3、5x5的卷積核與最大池化層後分別添加了1x1的卷積核,降低維度。1x1的卷積增加特徵變化與非線性變化所需計算量更小。結構圖如圖2所示.。

Iception v1模型的4個分支在最後通過concat連接

Inception v2

 Inception v2模型在V1的基礎上增加了BN層,在batch範圍內對每個特徵通過分別進行歸一化,同時還使用了梯度截斷,增加模型穩定性。並且 Inception v2中採用兩個3x3的卷積核代替了5x5的卷積,減少了計算。結構圖如圖3所示。

 Inception v3

  Inception v3網絡核心思想是將卷積核進行分解,NxN分解爲1xN與Nx1,降低參數數量與計算量。模型還取消了淺層輔助分類器。

 Inception v4

 Inception v4在Inception模型基礎上結合殘差技術的特點進行了結構優化調整,將4個卷積模型變爲6個卷積模型,但沒有使用殘差連接。而Inception-ResNet V2網絡是在Inception V3基礎上直接加入殘差連接,二者結構複雜度不相上下。殘差連接在Inception網絡中具有提高網絡準確率但不會提升網絡計算量。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章