https://blog.csdn.net/u012609509/article/details/81203436
torch.nn
- 專門爲神經網絡設計的模塊化接口.
- nn構建於autograd之上，可以用來定義和運行神經網絡。
nn.Module
nn中十分重要的類，包含網絡各層的定義及forward方法。
定義自已的網絡：需要繼承nn.Module類，並實現forward方法。
- 一般把網絡中具有**可學習參數的層放在構造函數__init__()**中，不具有可學習參數的層(如ReLU)可放在構造函數中，也可不放在構造函數中(而在forward中使用nn.functional來代替)。
- 只要在nn.Module的子類中定義了forward函數，backward函數就會被自動實現(利用Autograd)。
- nn.Module的子類函數必須在構造函數中執行父類的構造函數。