1 說明
kernel == filter
feature map ×n == output
Depth == channel
符號 | 參數說明 |
---|---|
Wi / Hi / Ci | Width / Height / Depth of input |
W | Width of feature map |
H | Height of feature map |
D | Depth of feature map |
F | Szie of filters |
K | Number of th filters |
S | Stride of filter |
2 全連接層FC,全連接NN
全連接 :每個神經元與前後相鄰層的每一個神經元都有連接關係,輸入是特徵,輸出爲預測的結果。
參數個數: FC前層 × FC後層
計算量/乘法計算次數/times : FC前層 × FC後層
待優化的參數過多, 容易導致模型過擬合。 爲避免這種現象, 實際應用中一般不會將原始圖片直接喂入全連接網絡,將會產生大量的參數,是整個網絡最大的累贅。
3 卷積Convolutional
卷積,是提取特徵的過程,也可以說成是壓縮數據。有三個參數,卷積核/卷積層中神經元感知域大小kernel,滑動步長strip,填充方法padding:same/valid。
例: 輸入是 7×7,濾波器是 3×3,步長爲 1,填充爲 0,那麼就能得到一個 5×5的輸出。如果輸入量是 32x32x3,核是 5x5x3,不用全零填充,輸出是(32-5+1)/1=28。如果要讓輸出量保持在 32x32x3, 可以對該層加一個大小爲 2 的零填充。 可以根據需求計算出需要填充幾層零。 32=(32-5+2P) /1 +1, 計算出 P=2, 即需填充 2。
- 卷積核的個數 : 卷積核的個數=最終的featuremap的個數 = D 通過上圖可以看出來,他是作者自己訂的。
- 參數的個數/Space: 卷積核的尺寸 x 卷積的深度x輸出深度 = F x F x D x K 輸出尺寸 :(
- 輸入數據體尺寸-卷積核+2*零填充的數量)/步長+1 = (Wi - W + 1)/S + 1 計算量/乘法計算次數/times :
- 輸入圖像的尺寸x 卷卷積的尺寸 x 輸入深度 x 輸出深度= Wi x Hi x F x F x Di x D
普通的cnn來說 卷積的深度 == 輸入數據的深度