pytorch指定權重初始化方式

如果網絡權重不初始化,pytorch有一套默認初始化機制,本人沒有研究具體怎麼初始化的,和tensorflow標準正態分佈初始化效果一樣,下面是指定初始化代碼:

conv = nn.Conv2d(*args, **kwargs)
conv.weight.data.normal_()  #w以標準正態分佈初始化
conv.bias.data.zero_()  #偏置以0初始化
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章