Classification（pytorch實現）

Classification 分類

以下內容是根據torch官網和莫煩python學習所得

該程序中的函數

• torch.normal(means, std, out=None)

  返回一個張量，包含從給定參數means,std的離散正態分佈中抽取隨機數。
  均值means是一個張量，包含每個輸出元素相關的正態分佈的均值。
  std是一個張量，包含每個輸出元素相關的正態分佈的標準差。
  均值和標準差的形狀不須匹配，但每個張量的元素個數須相同。

  [外鏈圖片轉存失敗,源站可能有防盜鏈機制,建議將圖片保存下來直接上傳(img-q1ujVXag-1584712078188)(assets/1582290699984.png)]

• C = torch.cat( (A,B),0 ) #按維數0拼接（豎着拼）要求列數相同

  C = torch.cat( (A,B),1 ) #按維數1拼接（橫着拼）要求行數相同

• plt.ion() plt.ioff()

  在使用matplotlib的過程中，常常會需要畫很多圖，但是好像並不能同時展示許多圖。這是因爲python可視化庫matplotlib的顯示模式默認爲阻塞（block）模式。什麼是阻塞模式那？我的理解就是在plt.show()之後，程序會暫停到那兒，並不會繼續執行下去。如果需要繼續執行程序，就要關閉圖片。那如何展示動態圖或多個窗口呢？這就要使用plt.ion()這個函數，使matplotlib的顯示模式轉換爲交互（interactive）模式。即使在腳本中遇到plt.show()，代碼還是會繼續執行

• torch.max(input, dim, keepdim=False, out=None) -> (Tensor, LongTensor)

  按維度dim 返回最大值，並且返回索引。dim=0 取每一列的最大值，dim=1 取每一行的最大值。

  test_output = cnn(test_x) //將數據輸入網絡，得到輸出結果
  pred_y = torch.max(test_output, 1)[1].data.numpy()
  # torch.max(test_output, 1)[0]得到每一行的最大值
  # torch.max(test_output, 1)[1]得到每一行的最大值的索引
  

  • torch.max(test_output, 1)
  • torch.return_types.max(values=tensor( [13.5198, 10.9779, 7.0184, 8.7294, 9.6836, 8.4372, 6.8225, 4.4336, 7.3900, 7.1887], grad_fn=), indices=tensor([7, 2, 1, 0, 4, 1, 4, 9, 5, 9]) )

• numpy.squeeze(a,axis = None)

  a表示輸入的數組；
  axis用於指定需要刪除的維度，但是指定的維度必須爲單維度，否則將會報錯；
  axis的取值可爲None 或 int 或 tuple of ints, 可選。若axis爲空，則刪除所有單維度的條目；
  返回值：數組
  不會修改原數組；

• *matplotlib.pyplot.scatter(x, y, s=None, c=None, marker=None, cmap=None, norm=None, vmin=None, vmax=None, alpha=None, linewidths=None, verts=None, edgecolors=None, , plotnonfinite=False, data=None, kwargs) [source]

源代碼

import torch
import matplotlib.pyplot as plt
import torch.nn.functional as F

# 假數據
n_data = torch.ones(100, 2)         # 數據的基本形態
x0 = torch.normal(2*n_data, 1)      # 類型0 x data (tensor), shape=(100, 2)
y0 = torch.zeros(100)               # 類型0 y data (tensor), shape=(100, )
x1 = torch.normal(-2*n_data, 1)     # 類型1 x data (tensor), shape=(100, 1)
y1 = torch.ones(100)                # 類型1 y data (tensor), shape=(100, )

# 注意 x, y 數據的數據形式是一定要像下面一樣 (torch.cat 是在合併數據)
x = torch.cat((x0, x1), 0).type(torch.FloatTensor)  # FloatTensor = 32-bit floating
y = torch.cat((y0, y1), ).type(torch.LongTensor)    # LongTensor = 64-bit integer

# plt.scatter(x.data.numpy()[:, 0], x.data.numpy()[:, 1], c=y.data.numpy(), s=100, lw=5, cmap='RdYlGn')
# plt.show()

plt.ion()   # 畫圖
plt.show()


class Net(torch.nn.Module):     # 繼承 torch 的 Module
    def __init__(self, n_feature, n_hidden, n_output):
        super(Net, self).__init__()     # 繼承 __init__ 功能
        self.hidden = torch.nn.Linear(n_feature, n_hidden)   # 隱藏層線性輸出
        self.out = torch.nn.Linear(n_hidden, n_output)       # 輸出層線性輸出

    def forward(self, x):
        # 正向傳播輸入值, 神經網絡分析出輸出值
        x = F.relu(self.hidden(x))      # 激勵函數(隱藏層的線性值)
        x = self.out(x)                 # 輸出值, 但是這個不是預測值, 預測值還需要再另外計算
        return x


net = Net(n_feature=2, n_hidden=10, n_output=2)  # 幾個類別就幾個 output

print(net)  # net 的結構

# optimizer 是訓練的工具
optimizer = torch.optim.SGD(net.parameters(), lr=0.02)  # 傳入 net 的所有參數, 學習率
# 算誤差的時候, 注意真實值!不是! one-hot 形式的, 而是1D Tensor, (batch,)
# 但是預測值是2D tensor (batch, n_classes)
loss_func = torch.nn.CrossEntropyLoss()

for t in range(100):
    out = net(x)     # 餵給 net 訓練數據 x, 輸出分析值

    loss = loss_func(out, y)     # 計算兩者的誤差

    optimizer.zero_grad()   # 清空上一步的殘餘更新參數值
    loss.backward()         # 誤差反向傳播, 計算參數更新值
    optimizer.step()        # 將參數更新值施加到 net 的 parameters 上
    # 接着上面來
    if t % 2 == 0:
        plt.cla()
        # 過了一道 softmax 的激勵函數後的最大概率纔是預測值
        prediction = torch.max(F.softmax(out), 1)[1]
        pred_y = prediction.data.numpy().squeeze()
        target_y = y.data.numpy()
        plt.scatter(x.data.numpy()[:, 0], x.data.numpy()[:, 1], c=pred_y, s=100, lw=0, cmap='RdYlGn')
        accuracy = sum(pred_y == target_y) / 200.  # 預測中有多少和真實值一樣
        plt.text(1.5, -4, 'Accuracy=%.2f' % accuracy, fontdict={'size': 20, 'color': 'red'})
        plt.pause(0.1)

plt.ioff()  # 停止畫圖
plt.show()

#accuracy, fontdict={'size': 20, 'color': 'red'})
#        plt.pause(0.1)

#plt.ioff()  # 停止畫圖
#plt.show()