pytorch指定权重初始化方式

如果网络权重不初始化,pytorch有一套默认初始化机制,本人没有研究具体怎么初始化的,和tensorflow标准正态分布初始化效果一样,下面是指定初始化代码:

conv = nn.Conv2d(*args, **kwargs)
conv.weight.data.normal_()  #w以标准正态分布初始化
conv.bias.data.zero_()  #偏置以0初始化
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章