掌握目标
- 了解分类器的任务和数据样式
- 掌握如何使用pytorch 实现基于CNN的分类器
分类任务和数据介绍
- 构造不同图像分类的神经网络分类器，对输入的图片进行判别并完成分类
- 本案例采用CIFAR10数据集作为原始图片数据。
CIFAR10 数据集中每张图片的尺寸是 3X32X32 代表的是彩色 3通道；CIFAR10数据集总共有10种不同的分类, 分别是"airplane", "automobile", "bird", "cat", "deer", "dog", "frog", "horse", "ship", "truck"
训练分类器的步骤
- 使用torchvision 下载 数据集
- 定义卷积神经网络
- 定义损失函数
- 在训练集上训练模型
- 在测试集上测试模型
使用torchvision 下载数据集，导入包
import torch
import torchvision
import torchvision.transforms as transforms
- 下载数据集并对图片进行调整， torchvison 数据集的输出是PILImage格式，数据域在[0,1].将其转换为[-1,1]上的张量
transform = transforms.Compose(
[transforms.ToTensor(),
transforms.Normalize((0.5, 0.5, 0.5), (0.5, 0.5, 0.5))])
trainset = torchvision.datasets.CIFAR10(root='./data', train=True,
download=True, transform=transform)
trainloader = torch.utils.data.DataLoader(trainset, batch_size=4,
shuffle=True, num_workers=2)#如果是windows下下载，num_workers=0
testset = torchvision.datasets.CIFAR10(root='./data', train=False,
download=True, transform=transform)
testloader = torch.utils.data.DataLoader(testset, batch_size=4,
shuffle=False, num_workers=2) #如果是windows下下载，num_workers=0
classes = ('plane', 'car', 'bird', 'cat',
'deer', 'dog', 'frog', 'horse', 'ship', 'truck')
- 展示若干训练集的图片
# 导入画图包和numpy
import matplotlib.pyplot as plt
import numpy as np
# 构建展示图片的函数
def imshow(img):
img = img / 2 + 0.5
npimg = img.numpy()
plt.imshow(np.transpose(npimg, (1, 2, 0)))
plt.show()
# 从数据迭代器中读取一张图片
dataiter = iter(trainloader)
images, labels = dataiter.next()
# 展示图片
imshow(torchvision.utils.make_grid(images))
# 打印标签label
print(' '.join('%5s' % classes[labels[j]] for j in range(4)))
定义卷积神经网络
import torch.nn as nn
import torch.nn.functional as F
class Net(nn.Module):
def __init__(self):
super(Net, self).__init__()
self.conv1 = nn.Conv2d(3, 6, 5)
self.pool = nn.MaxPool2d(2, 2)
self.conv2 = nn.Conv2d(6, 16, 5)
self.fc1 = nn.Linear(16 * 5 * 5, 120)
self.fc2 = nn.Linear(120, 84)
self.fc3 = nn.Linear(84, 10)
def forward(self, x):
x = self.pool(F.relu(self.conv1(x)))
x = self.pool(F.relu(self.conv2(x)))
x = x.view(-1, 16 * 5 * 5)
x = F.relu(self.fc1(x))
x = F.relu(self.fc2(x))
x = self.fc3(x)
return x
net = Net()
定义损失函数
- 采用的是交叉熵损失函数和随机梯度下降优化器
import torch.optim as optim
criterion = nn.CrossEntropyLoss()
optimizer = optim.SGD(net.parameters(), lr=0.001, momentum=0.9)
在训练集上训练模型
for epoch in range(2): # loop over the dataset multiple times
running_loss = 0.0
for i, data in enumerate(trainloader, 0):#可迭代序列，start = 0
# data中包含输入图像张量inputs, 标签张量labels
inputs, labels = data
# 首先将优化器梯度归零
optimizer.zero_grad()
# 输入图像张量进网络, 得到输出张量outputs
outputs = net(inputs)
# 利用网络的输出outputs和标签labels计算损失值
loss = criterion(outputs, labels)
# 反向传播+参数更新, 标准流程
loss.backward()
optimizer.step()
# 打印轮次和损失值
running_loss += loss.item()
if (i + 1) % 2000 == 0:
print('[%d, %5d] loss: %.3f' %
(epoch + 1, i + 1, running_loss / 2000))
running_loss = 0.0
print('Finished Training')
结果
[1, 2000] loss: 2.303
[1, 4000] loss: 2.298
[1, 6000] loss: 2.279
[1, 8000] loss: 2.162
[1,10000] loss: 1.961
[1,12000] loss: 1.854
[2, 2000] loss: 1.759
[2, 4000] loss: 1.704
[2, 6000] loss: 1.670
[2, 8000] loss: 1.617
[2,10000] loss: 1.582
[2,12000] loss: 1.565
保存模型以及进行测试
PATH = './cifar_net.pth'
# 保存模型的状态字典
torch.save(net.state_dict(), PATH)
#加载模型进行测试
net = Net()
net.load_state_dict(torch.load(PATH))
在全部测试集上的表现
correct = 0
total = 0
with torch.no_grad():
for data in testloader:
images, labels = data
outputs = net(images)
_, predicted = torch.max(outputs.data, 1)
total += labels.size(0)
correct += (predicted == labels).sum().item()
print('Accuracy of the network on the 10000 test images: %d %%' % (
100 * correct / total))
Accuracy of the network on the 10000 test images: 44 %
如果在GPU上进行训练的话
device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu")
print(device)
#将模型转到GPU
net.to(device)
# 将输入的图片张量和标签张量转移到GPU上
inputs, labels = data[0].to(device), data[1].to(device)
总结
- 学习了分类器任务和数据的下载
- 学习了训练分类器的步骤：
-- 使用torchvision 下载数据集；定义卷积神经网络；定义损失函数，优化器；在训练集上训练模型；在测试集上测试模型 - 学习了在GPU上训练模型
