python實戰技巧:pytorch神經網絡之卷積層與全連接層參數的設置方法

@本文來源於公衆號:csdn2299,喜歡可以關注公衆號 程序員學府
今天小編就爲大家分享一篇pytorch神經網絡之卷積層與全連接層參數的設置方法,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
當使用pytorch寫網絡結構的時候,本人發現在卷積層與第一個全連接層的全連接層的input_features不知道該寫多少?一開始本人的做法是對着pytorch官網的公式推,但是總是算錯。

後來發現,寫完卷積層後可以根據模擬神經網絡的前向傳播得出這個。

全連接層的input_features是多少。首先來看一下這個簡單的網絡。這個卷積的Sequential本人就不再囉嗦了,現在看nn.Linear(???, 4096)這個全連接層的第一個參數該爲多少呢?

請看下文詳解。

class AlexNet(nn.Module):
  def __init__(self):
    super(AlexNet, self).__init__()
 
    self.conv = nn.Sequential(
      nn.Conv2d(3, 96, kernel_size=11, stride=4),
      nn.ReLU(inplace=True),
      nn.MaxPool2d(kernel_size=3, stride=2),
 
      nn.Conv2d(96, 256, kernel_size=5, padding=2),
      nn.ReLU(inplace=True),
      nn.MaxPool2d(kernel_size=3, stride=2),
 
      nn.Conv2d(256, 384, kernel_size=3, padding=1),
      nn.ReLU(inplace=True),
      nn.Conv2d(384, 384, kernel_size=3, padding=1),
      nn.ReLU(inplace=True),
      nn.Conv2d(384, 256, kernel_size=3, padding=1),
      nn.ReLU(inplace=True),
      nn.MaxPool2d(kernel_size=3, stride=2)
    )
 
    self.fc = nn.Sequential(
      nn.Linear(???, 4096)
      ......
      ......
    )

首先,我們先把forward寫一下:

def forward(self, x):
  x = self.conv(x)
  print x.size()

就寫到這裏就可以了。其次,我們初始化一下網絡,隨機一個輸入:

import torch
from Alexnet.AlexNet import *
from torch.autograd import Variable
 
if __name__ == '__main__':
  net = AlexNet()
 
  data_input = Variable(torch.randn([1, 3, 96, 96])) # 這裏假設輸入圖片是96x96
  print data_input.size()
  net(data_input)

結果如下:

(1L, 3L, 96L, 96L)
(1L, 256L, 1L, 1L)

顯而易見,咱們這個全連接層的input_features爲256。
非常感謝你的閱讀
大學的時候選擇了自學python,工作了發現吃了計算機基礎不好的虧,學歷不行這是

沒辦法的事,只能後天彌補,於是在編碼之外開啓了自己的逆襲之路,不斷的學習python核心知識,深

入的研習計算機基礎知識,整理好了,我放在我們的微信公衆號《程序員學府》,如果你也不甘平庸,

那就與我一起在編碼之外,不斷成長吧!

其實這裏不僅有技術,更有那些技術之外的東西,比如,如何

做一個精緻的程序員,而不是“屌絲”,程序員本身就是高貴的一種存在啊,難道不是嗎?點擊加入
想做你自己想成爲高尚人,加油!

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章