實現三層神經網絡

實現softmax

pytorch的基礎學習：

下面給一個例子：

x = torch.ones(4,4)

這個我們通過鏈式求導法則，可以反向推導就知道了，d(out)/d(x) = 1/2 *y = 1.5

默認是忽略梯度。