墨塵的神經網絡5--MobileNet V2模型代碼復現及要點記錄

什麼是MobileNetV2模型
MobileNet模型是Google針對手機等嵌入式設備提出的一種輕量級的深層神經網絡,其使用的核心思想便是depthwise separable convolution。

MobileNetV2是MobileNet的升級版,它具有兩個特徵點:

1、Inverted residuals,在ResNet50裏我們認識到一個結構,bottleneck design結構,在3x3網絡結構前利用1x1卷積降維,在3x3網絡結構後,利用1x1卷積升維,相比直接使用3x3網絡卷積效果更好,參數更少,先進行壓縮,再進行擴張。而在MobileNetV2網絡部分,其採用Inverted residuals結構,在3x3網絡結構前利用1x1卷積升維,在3x3網絡結構後,利用1x1卷積降維,先進行擴張,再進行壓縮。

2、Linear bottlenecks,爲了避免Relu對特徵的破壞,在在3x3網絡結構前利用1x1卷積升維,在3x3網絡結構後,再利用1x1卷積降維後,不再進行Relu6層,直接進行殘差網絡的加法。
在這裏插入圖片描述

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章