墨塵的神經網絡1--resnet50模型代碼復現及要點記錄

什麼是殘差網絡
Residual net(殘差網絡)：
將靠前若干層的某一層數據輸出直接跳過多層引入到後面數據層的輸入部分。
意味着後面的特徵層的內容會有一部分由其前面的某一層線性貢獻。
其結構如下：

ResNet50有兩個基本的塊，分別名爲Conv Block和Identity Block，其中Conv Block輸入和輸出的維度是不一樣的，所以不能連續串聯，它的作用是改變網絡的維度；Identity Block輸入維度和輸出維度相同，可以串聯，用於加深網絡的。
Conv Block的結構如下：

Identity Block的結構如下：

這兩個都是殘差網絡結構。
總的網絡結構如下：