Pytorch---- CIFAR10实战(训练集+测试集+验证集)完整版，逐行注释-----学习笔记

文章目录CIFAR10数据集准备、加载搭建神经网络损失函数和优化器训练集测试集关于argmax:使用tensorboard可视化训练过程。完整代码(训练集测试集):程序结果:验证集完整代码(验证集):CIFAR10数据集准备、加载解释一下里面的参数 root数据放在哪。 train是否为训练集 。 download是否去网上下载。里面的那个 transform 就是转换数据类型为Tensor类型。准备一个测试集 一个训练集 自动从网上下载好。 大概160MB左右。图片大小是32*32的RGB格式。train_datatorchvision.datasets.CIFAR10(root../data,trainTrue,transformtorchvision.transforms.ToTensor(),downloadTrue)test_datatorchvision.datasets.CIFAR10(root../data,trainFalse,transformtorchvision.transforms.ToTensor(),downloadTrue)然后我们加载数据集使用DataLoader。设置 mini-batch为64.然后再看一下训练集和测试集的数据集个数。# DataLoader加载数据集train_dataloaderDataLoader(train_data,batch_size64)test_dataloaderDataLoader(test_data,batch_size64)print(训练集的长度:{}.format(len(train_data)))print(测试集的长度:{}.format(len(test_data)))搭建神经网络使用网上给的图片搭建神经网络下图。使用Sequential组合的方法写每个网络。# 搭建神经网络classModel(nn.Module):def__init__(self):super(Model,self).__init__()self.modelnn.Sequential(nn.Conv2d(3,32,5,1,2),nn.MaxPool2d(2),nn.Conv2d(32,32,5,1,2),nn.MaxPool2d(2),nn.Conv2d(32,64,5,1,2),nn.MaxPool2d(2),nn.Flatten(),nn.Linear(64*4*4,64),nn.Linear(64,10),)defforward(self,x):xself.model(x)returnx损失函数和优化器使用交叉熵做为损失函数并且放到GPU上一会做训练。# 损失函数lossnn.CrossEntropyLoss().cuda()# 优化器optimizertorch.optim.SGD(model.parameters(),lr0.01,)训练集这里的训练集开头有一个 model.train() 就是训练集循环开头写这个。也可以不写不过规范要写上。model.train()# 也可以不写规范的话是写用来表明训练步骤fordataintrain_dataloader:# 数据分开 一个是图片数据一个是真实值imgs,targetsdata imgsimgs.cuda()# 放到GPU上一会训练用targetstargets.cuda()# 拿到预测值outputmodel(imgs)# 计算损失值loss_inloss(output,targets)# 优化开始~ ~ 先梯度清零optimizer.zero_grad()# 反向传播更新loss_in.backward()optimizer.step()测试集也和上面一样。测试集前面加了一句 model.eval() 就是表明这是测试集也可以不写规范就写上。这里我们使用了accurate记录当前正确的个数。然后除以总个数就是正确率了。accurate0model.eval()# 也可以不写规范的话就写用来表明是测试步骤withtorch.no_grad():fordataintest_dataloader:# 这里的每一次循环 都是一个minibatch 一次for循环里面有64个数据。imgs,targetsdata imgsimgs.cuda()targetstargets.cuda()outputmodel(imgs)loss_inloss(output,targets)sum_lossloss_in accurate(output.argmax(1)targets).sum()其中的 sum() 就是 计算其中每一个概率是否和我们的targets即真实值相等sum() 将batch里面64个数据的判断结果相加。关于argmax:这里的output.argmax(1) 就是求output 在 axis1方向上的最大值返回其索引。可以打印输出看一下output的值由于这是在for循环里面的output所以output肯定就是我们设置的batch的大小 一共64个。每一个都应该是有10个数据组成的一维数组这十个数代表十个分类的概率。我们打印看一下:找到最大值是1.2819然后返回他的索引值5。[-0.98575,0.32747,0.52469,1.0626,0.09937,1.2819,0.7109,-0.34366,-1.4924,-1.4262]使用tensorboard可视化训练过程。使用SummaryWriter:#添加tensorboard可视化数据writerSummaryWriter(../logs_tensorboard)在训练集里添加:ifnum_time%1000:writer.add_scalar(看一下训练集损失值,loss_in.item(),num_time)在测试集里添加:writer.add_scalar(看一下测试集损失,sum_loss,i)writer.add_scalar(看一下当前测试集正确率,accurate/len(test_data)*100,i)i1别忘了 writer.close() 关闭tensorboard。最后使用 torch.save保存训练结果。完整代码(训练集测试集):importtorchimporttorchvisionfromtorchimportnnfromtorch.utils.dataimportDataLoaderfromtorch.utils.tensorboardimportSummaryWriter# 准备数据集train_datatorchvision.datasets.CIFAR10(root../data,trainTrue,transformtorchvision.transforms.ToTensor(),downloadTrue)test_datatorchvision.datasets.CIFAR10(root../data,trainFalse,transformtorchvision.transforms.ToTensor(),downloadTrue)print(训练集的长度:{}.format(len(train_data)))print(测试集的长度:{}.format(len(test_data)))# DataLoader加载数据集train_dataloaderDataLoader(train_data,batch_size64)test_dataloaderDataLoader(test_data,batch_size64)# 搭建神经网络classModel(nn.Module):def__init__(self):super(Model,self).__init__()self.modelnn.Sequential(nn.Conv2d(3,32,5,1,2),nn.MaxPool2d(2),nn.Conv2d(32,32,5,1,2),nn.MaxPool2d(2),nn.Conv2d(32,64,5,1,2),nn.MaxPool2d(2),nn.Flatten(),nn.Linear(64*4*4,64),nn.Linear(64,10),)defforward(self,x):xself.model(x)returnx# 创建网络模型modelModel().cuda()#添加tensorboard可视化数据writerSummaryWriter(../logs_tensorboard)# 损失函数lossnn.CrossEntropyLoss().cuda()# 优化器optimizertorch.optim.SGD(model.parameters(),lr0.01,)i1# 用于绘制测试集的tensorboard# 开始循环训练forepochinrange(30):num_time0# 记录看看每轮有多少次训练print(开始第{}轮训练.format(epoch1))model.train()# 也可以不写规范的话是写用来表明训练步骤fordataintrain_dataloader:# 数据分开 一个是图片数据一个是真实值imgs,targetsdata imgsimgs.cuda()targetstargets.cuda()# 拿到预测值outputmodel(imgs)# 计算损失值loss_inloss(output,targets)# 优化开始~ ~ 先梯度清零optimizer.zero_grad()# 反向传播更新loss_in.backward()optimizer.step()num_time1ifnum_time%1000:writer.add_scalar(看一下训练集损失值,loss_in.item(),num_time)sum_loss0# 记录总体损失值# 每轮训练完成跑一下测试数据看看情况accurate0model.eval()# 也可以不写规范的话就写用来表明是测试步骤withtorch.no_grad():fordataintest_dataloader:# 这里的每一次循环 都是一个minibatch 一次for循环里面有64个数据。imgs,targetsdata imgsimgs.cuda()targetstargets.cuda()outputmodel(imgs)loss_inloss(output,targets)sum_lossloss_inprint(这里是output,output)accurate(output.argmax(1)targets).sum()print(第{}轮测试集的正确率:{:.2f}%.format(epoch1,accurate/len(test_data)*100))writer.add_scalar(看一下测试集损失,sum_loss,i)writer.add_scalar(看一下当前测试集正确率,accurate/len(test_data)*100,i)i1torch.save(model,../model_pytorch/model_{}.pth.format(epoch1))print(第{}轮模型训练数据已保存.format(epoch1))writer.close()程序结果:可以看到训练30轮之后的正确率逼近64%。也可以看到每次训练的模型数据都保存了起来方便后面验证。验证集本次使用图片:首先PIL方法导入图片。image Image.open(../data/plane.png)这里其实可以看一下图片格式数据:# print(image) #PIL.PngImagePlugin.PngImageFile image modeRGBA size719x719 at 0x1BB943224C0可以看到 是 RGBA的格式 并且图片尺寸是719 * 719的。我们需要转换成 RGB格式 大小是32 * 32的。转换成RGB格式:imageimage.convert(RGB)然后使用Compose组合改变数据类型先变成32*32 再变成tensor类型数据。# 定义 Composetransformtorchvision.transforms.Compose([torchvision.transforms.Resize((32,32)),torchvision.transforms.ToTensor()])# 放入我们要改变的数据imagetransform(image)放入我们要验证的数据:这里使用了 torch.no_grad() 表示 后面的过程不需要梯度等优化数据。withtorch.no_grad():imageimage.cuda()outputmodel(image)print(output.argmax(1))可以看到输出结果。表示验证结果是第0个类型。我们可以调试看一下CIFAR10的数据集数字对应的图片是什么图片。显然第0个就是代表飞机。验证成功。后面我们又换了一个猫的图片然后验证出来是5号dog验证出错了。毕竟正确率只有64%。我训练了30轮用笔记本的GPU跑的1650的GPU那风扇咔咔转最近梯子用不了了就不上云了。完整代码(验证集):importtorchvisionfromtorchimportnnimporttorchfromPILimportImage# 把这个模型拿过来 防止模型加载的时候报错classModel(nn.Module):def__init__(self):super(Model,self).__init__()self.modelnn.Sequential(nn.Conv2d(3,32,5,1,2),nn.MaxPool2d(2),nn.Conv2d(32,32,5,1,2),nn.MaxPool2d(2),nn.Conv2d(32,64,5,1,2),nn.MaxPool2d(2),nn.Flatten(),nn.Linear(64*4*4,64),nn.Linear(64,10),)defforward(self,x):xself.model(x)returnx imageImage.open(../data/plane.png)# print(image) #PIL.PngImagePlugin.PngImageFile image modeRGBA size719x719 at 0x1BB943224C0# 这里可以看到输出是ARGB类型四通道而我们的训练模式都是三通道的。# 所以这里使转换成RGB三通道的格式imageimage.convert(RGB)# 使用Compose组合改变数据类型,先变成32*32的 然后在变成tensor类型transformtorchvision.transforms.Compose([torchvision.transforms.Resize((32,32)),torchvision.transforms.ToTensor()])imagetransform(image)modeltorch.load(../model_pytorch/model_30.pth)# 这里面输出的话就是保存的各种参数。imagetorch.reshape(image,(1,3,32,32))print(image.shape)model.eval()withtorch.no_grad():imageimage.cuda()outputmodel(image)print(output.argmax(1))这里有个小坑。使用save保存的网络模型加载的时候必须吧网络模型类定义也写出来不然会直接报错。还有一个字典形式保存模型的方法那个就不用再写一遍定义不过字典这个方法不是很熟。