涉及内容:
- 数据准备:在平面内构造两类点
- 定义神经网络结构
- 优化器和损失函数
- 训练
- 模型保存和提取
效果展示:
代码展示:
# coding=utf-8
import os
import sys
import torch
import torch.nn.functional as F # 拿到激励函数
import matplotlib.pyplot as plt
# 数据准备,预处理
n_data = torch.ones(100, 2) # 100行2列
x0 = torch.normal(2 * n_data, 1) # 100行2列
y0 = torch.zeros(100) # 第一类 全0
x1 = torch.normal(-2 * n_data, 1)
y1 = torch.ones(100) # 第二类 全1
x = torch.cat((x0, x1), 0)
y = torch.cat((y0, y1), )
x = torch.Tensor(x)
y = torch.Tensor(y).long()
# print(y)
# 打印散点图
# plt.scatter(x.data.numpy()[:, 0], x.data.numpy()[:, 1], c=y.data.numpy(), s=100, linewidths=0)
# plt.show()
# 定义神经网络结构
class Net(torch.nn.Module):
def __init__(self, n_feature, n_hidden, n_output):
super().__init__()
self.hidden = torch.nn.Linear(n_feature, n_hidden) # layer
self.predict = torch.nn.Linear(n_hidden, n_output) # layer
def forward(self, x): # 前向计算
x = F.relu(self.hidden(x))
x = self.predict(x)
return x
net = Net(2, 6, 2) # 输入2个特征(座标),输出也是2个特征(标签,独热编码)
# # net 也可以定义如下:
# net = torch.nn.Sequential(
# torch.nn.Linear(2, 6),
# torch.nn.ReLU(),
# torch.nn.Linear(6, 2),
# )
print(net)
# 随机梯度下降
omptimzer = torch.optim.SGD(net.parameters(), lr=0.01) # 网络的所有参数,和学习率
loss_func = torch.nn.CrossEntropyLoss() # 交叉熵 输出每个类型的概率,取最大的
# 可视化
plt.ion() # 设置可以实时显示
plt.show()
# 训练网络,训练1000次
for t in range(1000):
out = net(x)
loss = loss_func(out, y) # 误差
omptimzer.zero_grad() # 先将所有参数的梯度每次置零
loss.backward() # 误差反向传播,计算所有节点的梯度
omptimzer.step() # 用上面的计算值,以学习率为lr,来优化参数
if t % 50 == 0:
plt.cla()
prediction = torch.max(F.softmax(out), 1)[1] # 预测的标签值
pred_y = prediction.data.numpy().squeeze()
target_y = y.data.numpy()
plt.scatter(x.data.numpy()[:, 0], x.data.numpy()[:, 1], c=pred_y, s=100, linewidths=0)
plt.pause(0.1)
print(f't:{t}, {loss.tolist()}') # 打印误差
plt.ioff()
plt.show()
# 保存神经网络
save_path = os.path.join(sys.path[0], "classification-modle.pth")
torch.save(net, save_path) # 方式一:保存整个神经网络,结构和参数
# torch.save(net.state_dict(), save_path) # 方式二:只保留参数
# 提取网络
# 方式一:
new_net = torch.load(save_path)
# # 方式二:
# new_net = Net()
# new_net.load_state_dict(torch.load(save_path))
参考莫烦pytorch教程:https://space.bilibili.com