当前位置： 首页 > news >正文

第P5周 学习笔记 Pytorch实现运动鞋识别

news 2026/5/16 20:25:05
  • 🍨 本文为🔗365天深度学习训练营 中的学习记录博客
  • 🍖 原作者：K同学啊

🏡我的环境：

  • 语言环境：Python3.12
  • 编译器：Jupyter Notebook
  • 深度学习环境：Pytorch

一、 前期准备

1. 设置GPU

如果设备上支持GPU就使用GPU,否则使用CPU

importtorchimporttorch.nnasnnimporttorchvision.transformsastransformsimporttorchvisionfromtorchvisionimporttransforms,datasetsimportos,PIL,pathlib device=torch.device("cuda"iftorch.cuda.is_available()else"cpu")device

输出：

2. 导入数据

importos,PIL,random,pathlib data_dir='./data/5-data/'data_dir=pathlib.Path(data_dir)data_paths=list(data_dir.glob('*'))classeNames=[str(path).split("\\")[1]forpathindata_paths]classeNames

  • 第一步：使用pathlib.Path()函数将字符串类型的文件夹路径转换为pathlib.Path对象。
  • 第二步：使用glob()方法获取data_dir路径下的所有文件路径，并以列表形式存储在data_paths中。
  • 第三步：通过split()函数对data_paths中的每个文件路径执行分割操作，获得各个文件所属的类别名称，并存储在classeNames中
  • 第四步：打印classeNames列表，显示每个文件所属的类别名称。
# 关于transforms.Compose的更多介绍可以参考：https://blog.csdn.net/qq_38251616/article/details/124878863train_transforms=transforms.Compose([transforms.Resize([224,224]),# 将输入图片resize成统一尺寸# transforms.RandomHorizontalFlip(), # 随机水平翻转transforms.ToTensor(),# 将PIL Image或numpy.ndarray转换为tensor，并归一化到[0,1]之间transforms.Normalize(# 标准化处理-->转换为标准正太分布（高斯分布），使模型更容易收敛mean=[0.485,0.456,0.406],std=[0.229,0.224,0.225])# 其中 mean=[0.485,0.456,0.406]与std=[0.229,0.224,0.225] 从数据集中随机抽样计算得到的。])test_transform=transforms.Compose([transforms.Resize([224,224]),# 将输入图片resize成统一尺寸transforms.ToTensor(),# 将PIL Image或numpy.ndarray转换为tensor，并归一化到[0,1]之间transforms.Normalize(# 标准化处理-->转换为标准正太分布（高斯分布），使模型更容易收敛mean=[0.485,0.456,0.406],std=[0.229,0.224,0.225])# 其中 mean=[0.485,0.456,0.406]与std=[0.229,0.224,0.225] 从数据集中随机抽样计算得到的。])train_dataset=datasets.ImageFolder("./data/5-data/train/",transform=train_transforms)test_dataset=datasets.ImageFolder("./data/5-data/test/",transform=test_transform)

🌟mean与std数值是怎么来的？

这些均值和标准差是通过计算ImageNet数据集中所有训练图像的RGB通道均值和标准差得出的。具体计算过程如下：

  1. 获取ImageNet数据集：ImageNet包含120万张训练图像，每张图像通常具有RGB三个通道。
  2. 计算均值（Mean）：
    • 遍历所有图像，分别计算每个通道（R、G、B）的像素值平均值，得到：
      • Red 通道均值 ≈ 0.485
      • Green 通道均值 ≈ 0.456
      • Blue 通道均值 ≈ 0.406
  3. 计算标准差（Standard Deviation）：
    • 遍历所有图像，计算每个通道的像素值标准差，得到：
      • Red 通道标准差 ≈ 0.229
      • Green 通道标准差 ≈ 0.224
      • Blue 通道标准差 ≈ 0.225
train_dataset.class_to_idx

输出：

batch_size=32train_dl=torch.utils.data.DataLoader(train_dataset,batch_size=batch_size,shuffle=True,num_workers=1)test_dl=torch.utils.data.DataLoader(test_dataset,batch_size=batch_size,shuffle=True,num_workers=1)
forX,yintest_dl:print("Shape of X [N, C, H, W]: ",X.shape)print("Shape of y: ",y.shape,y.dtype)break

输出：

二、构建简单的CNN网络

网络结构图：

importtorch.nn.functionalasFclassModel(nn.Module):def__init__(self):super(Model,self).__init__()self.conv1=nn.Sequential(nn.Conv2d(3,12,kernel_size=5,padding=0),# 12*220*220nn.BatchNorm2d(12),nn.ReLU())self.conv2=nn.Sequential(nn.Conv2d(12,12,kernel_size=5,padding=0),# 12*216*216nn.BatchNorm2d(12),nn.ReLU())self.pool3=nn.Sequential(nn.MaxPool2d(2))# 12*108*108self.conv4=nn.Sequential(nn.Conv2d(12,24,kernel_size=5,padding=0),# 24*104*104nn.BatchNorm2d(24),nn.ReLU())self.conv5=nn.Sequential(nn.Conv2d(24,24,kernel_size=5,padding=0),# 24*100*100nn.BatchNorm2d(24),nn.ReLU())self.pool6=nn.Sequential(nn.MaxPool2d(2))# 24*50*50self.dropout=nn.Sequential(nn.Dropout(0.2))self.fc=nn.Sequential(nn.Linear(24*50*50,len(classeNames)))defforward(self,x):batch_size=x.size(0)x=self.conv1(x)# 卷积-BN-激活x=self.conv2(x)# 卷积-BN-激活x=self.pool3(x)# 池化x=self.conv4(x)# 卷积-BN-激活x=self.conv5(x)# 卷积-BN-激活x=self.pool6(x)# 池化x=self.dropout(x)x=x.view(batch_size,-1)# flatten 变成全连接网络需要的输入 (batch, 24*50*50) ==> (batch, -1), -1 此处自动算出的是24*50*50x=self.fc(x)returnx device="cuda"iftorch.cuda.is_available()else"cpu"print("Using {} device".format(device))model=Model().to(device)model

输出：

三、 训练模型

1. 编写训练函数

# 训练循环deftrain(dataloader,model,loss_fn,optimizer):size=len(dataloader.dataset)# 训练集的大小num_batches=len(dataloader)# 批次数目, (size/batch_size，向上取整)train_loss,train_acc=0,0# 初始化训练损失和正确率forX,yindataloader:# 获取图片及其标签X,y=X.to(device),y.to(device)# 计算预测误差pred=model(X)# 网络输出loss=loss_fn(pred,y)# 计算网络输出和真实值之间的差距，targets为真实值，计算二者差值即为损失# 反向传播optimizer.zero_grad()# grad属性归零loss.backward()# 反向传播optimizer.step()# 每一步自动更新# 记录acc与losstrain_acc+=(pred.argmax(1)==y).type(torch.float).sum().item()train_loss+=loss.item()train_acc/=size train_loss/=num_batchesreturntrain_acc,train_loss

3. 编写测试函数

测试函数和训练函数大致相同，但是由于不进行梯度下降对网络权重进行更新，所以不需要传入优化器

deftest(dataloader,model,loss_fn):size=len(dataloader.dataset)# 测试集的大小num_batches=len(dataloader)# 批次数目, (size/batch_size，向上取整)test_loss,test_acc=0,0# 当不进行训练时，停止梯度更新，节省计算内存消耗withtorch.no_grad():forimgs,targetindataloader:imgs,target=imgs.to(device),target.to(device)# 计算losstarget_pred=model(imgs)loss=loss_fn(target_pred,target)test_loss+=loss.item()test_acc+=(target_pred.argmax(1)==target).type(torch.float).sum().item()test_acc/=size test_loss/=num_batchesreturntest_acc,test_loss

3. 设置动态学习率

defadjust_learning_rate(optimizer,epoch,start_lr):# 每 2 个epoch衰减到原来的 0.92lr=start_lr*(0.92**(epoch//2))forparam_groupinoptimizer.param_groups:param_group['lr']=lr learn_rate=1e-4# 初始学习率optimizer=torch.optim.SGD(model.parameters(),lr=learn_rate)

✨调用官方动态学习率接口，与上面方法是等价的

# # 调用官方动态学习率接口时使用# lambda1 = lambda epoch: (0.92 ** (epoch // 2))# optimizer = torch.optim.SGD(model.parameters(), lr=learn_rate)# scheduler = torch.optim.lr_scheduler.LambdaLR(optimizer, lr_lambda=lambda1) #选定调整方法

4. 正式训练

loss_fn=nn.CrossEntropyLoss()# 创建损失函数epochs=40train_loss=[]train_acc=[]test_loss=[]test_acc=[]forepochinrange(epochs):# 更新学习率（使用自定义学习率时使用）adjust_learning_rate(optimizer,epoch,learn_rate)model.train()epoch_train_acc,epoch_train_loss=train(train_dl,model,loss_fn,optimizer)# scheduler.step() # 更新学习率（调用官方动态学习率接口时使用）model.eval()epoch_test_acc,epoch_test_loss=test(test_dl,model,loss_fn)train_acc.append(epoch_train_acc)train_loss.append(epoch_train_loss)test_acc.append(epoch_test_acc)test_loss.append(epoch_test_loss)# 获取当前的学习率lr=optimizer.state_dict()['param_groups'][0]['lr']template=('Epoch:{:2d}, Train_acc:{:.1f}%, Train_loss:{:.3f}, Test_acc:{:.1f}%, Test_loss:{:.3f}, Lr:{:.2E}')print(template.format(epoch+1,epoch_train_acc*100,epoch_train_loss,epoch_test_acc*100,epoch_test_loss,lr))print('Done')

输出：

四、 结果可视化

1. Loss与Accuracy图

importmatplotlib.pyplotasplt#隐藏警告importwarnings warnings.filterwarnings("ignore")#忽略警告信息plt.rcParams['font.sans-serif']=['SimHei']# 用来正常显示中文标签plt.rcParams['axes.unicode_minus']=False# 用来正常显示负号plt.rcParams['figure.dpi']=100#分辨率fromdatetimeimportdatetime current_time=datetime.now()# 获取当前时间epochs_range=range(epochs)plt.figure(figsize=(12,3))plt.subplot(1,2,1)plt.plot(epochs_range,train_acc,label='Training Accuracy')plt.plot(epochs_range,test_acc,label='Test Accuracy')plt.legend(loc='lower right')plt.title('Training and Validation Accuracy')plt.xlabel(current_time)# 打卡请带上时间戳，否则代码截图无效plt.subplot(1,2,2)plt.plot(epochs_range,train_loss,label='Training Loss')plt.plot(epochs_range,test_loss,label='Test Loss')plt.legend(loc='upper right')plt.title('Training and Validation Loss')plt.show()

输出：

2. 指定图片进行预测

⭐torch.squeeze()详解

对数据的维度进行压缩，去掉维数为1的的维度

函数原型：

torch.squeeze(input, dim=None, *, out=None)

关键参数说明：

  • input (Tensor)：输入Tensor
  • dim (int, optional)：如果给定，输入将只在这个维度上被压缩

实战案例：

>>>x=torch.zeros(2,1,2,1,2)>>>x.size()torch.Size([2,1,2,1,2])>>>y=torch.squeeze(x)>>>y.size()torch.Size([2,2,2])>>>y=torch.squeeze(x,0)>>>y.size()torch.Size([2,1,2,1,2])>>>y=torch.squeeze(x,1)>>>y.size()torch.Size([2,2,1,2])

⭐torch.unsqueeze()

对数据维度进行扩充。给指定位置加上维数为一的维度

函数原型：

torch.unsqueeze(input, dim)

关键参数说明：

  • input (Tensor)：输入Tensor
  • dim (int)：插入单例维度的索引

实战案例：

>>>x=torch.tensor([1,2,3,4])>>>torch.unsqueeze(x,0)tensor([[1,2,3,4]])>>>torch.unsqueeze(x,1)tensor([[1],[2],[3],[4]])
fromPILimportImage classes=list(train_dataset.class_to_idx)defpredict_one_image(image_path,model,transform,classes):test_img=Image.open(image_path).convert('RGB')# plt.imshow(test_img) # 展示预测的图片test_img=transform(test_img)img=test_img.to(device).unsqueeze(0)model.eval()output=model(img)_,pred=torch.max(output,1)pred_class=classes[pred]print(f'预测结果是：{pred_class}')
# 预测训练集中的某张照片predict_one_image(image_path='./5-data/test/adidas/1.jpg',model=model,transform=train_transforms,classes=classes)

输出：

五、保存并加载模型

# 模型保存PATH='./model.pth'# 保存的参数文件名torch.save(model.state_dict(),PATH)# 将参数加载到model当中model.load_state_dict(torch.load(PATH,map_location=device))

输出：

六、动态学习率

1. torch.optim.lr_scheduler.StepLR

等间隔动态调整方法，每经过step_size个epoch，做一次学习率decay，以gamma值为缩小倍数。

函数原型：

torch.optim.lr_scheduler.StepLR(optimizer, step_size, gamma=0.1, last_epoch=-1)

关键参数详解：

  • optimizer(Optimizer)：是之前定义好的需要优化的优化器的实例名
  • step_size(int)：是学习率衰减的周期，每经过每个epoch，做一次学习率decay
  • gamma(float)：学习率衰减的乘法因子。Default：0.1

用法示例：

optimizer=torch.optim.SGD(net.parameters(),lr=0.001)scheduler=torch.optim.lr_scheduler.StepLR(optimizer,step_size=5,gamma=0.1)

2. lr_scheduler.LambdaLR

根据自己定义的函数更新学习率。

函数原型：

torch.optim.lr_scheduler.LambdaLR(optimizer, lr_lambda, last_epoch=-1, verbose=False)

关键参数详解：

  • optimizer(Optimizer)：是之前定义好的需要优化的优化器的实例名
  • lr_lambda(function)：更新学习率的函数

用法示例：

lambda1=lambdaepoch:(0.92**(epoch//2)# 第二组参数的调整方法optimizer=torch.optim.SGD(model.parameters(),lr=learn_rate)scheduler=torch.optim.lr_scheduler.LambdaLR(optimizer,lr_lambda=lambda1)#选定调整方法

3. lr_scheduler.MultiStepLR

在特定的 epoch 中调整学习率

函数原型：

torch.optim.lr_scheduler.MultiStepLR(optimizer, milestones, gamma=0.1, last_epoch=-1, verbose=False)

关键参数详解：

  • optimizer(Optimizer)：是之前定义好的需要优化的优化器的实例名
  • milestones(list)：是一个关于epoch数值的list，表示在达到哪个epoch范围内开始变化，必须是升序排列
  • gamma(float)：学习率衰减的乘法因子。Default：0.1

用法示例：

optimizer=torch.optim.SGD(net.parameters(),lr=0.001)scheduler=torch.optim.lr_scheduler.MultiStepLR(optimizer,milestones=[2,6,15],#调整学习率的epoch数gamma=0.1)

更多的官方动态学习率设置方式可参考：https://pytorch.org/docs/stable/optim.html

👉调用官方接口示例：

model=[Parameter(torch.randn(2,2,requires_grad=True))]optimizer=SGD(model,0.1)scheduler=ExponentialLR(optimizer,gamma=0.9)forepochinrange(20):forinput,targetindataset:optimizer.zero_grad()output=model(input)loss=loss_fn(output,target)loss.backward()optimizer.step()scheduler.step()

七、总结

在前几周的基础上，增加了动态学习率。因为神经网络训练时，不同阶段对学习率的需求其实不一样。
情况1：学习率太大
前期：收敛快，loss下降很猛
但后期：会在最优点附近“来回横跳”，loss震荡，准确率上不去
情况2：学习率太小
后期很稳。
但前期：学得特别慢，训练半天不动，容易卡住。
此外，动态学习率可以避免模型前期卡死在差解里，帮助跳出局部最优。

http://www.jsqmd.com/news/830297/

相关文章：

  • 基于RAG的代码库智能问答工具：askyourgit部署与实战指南
  • AI工作效率入门：普通人必须了解的10个AI工具
  • 大一学生揭秘科罗拉多矿业学院扫描技术：掌控投影仪和摄像头，问题待修复
  • 马拉雅拉姆文语音合成精度断崖式下降？揭秘ElevenLabs后台模型切换机制及3种稳定调用兜底策略
  • Python量化交易框架moltfi：从回测到实盘的轻量级解决方案
  • 2026 对辊造粒机选购指南：郑州凯悦机械引领高效造粒新趋势 - 品牌企业推荐师（官方）
  • 想要在武威市找到专业靠谱的施工总承包，这几个筛选方法值得参考 - 品牌企业推荐师（官方）
  • 【限时解密】ElevenLabs未公开韩文语音增强技巧：绕过默认音库限制，实现敬语/方言/播音腔三模态切换
  • 从‘画布污染’到完美保存：我的UniApp H5图片合成踩坑全记录与最佳实践
  • 使用curl命令快速测试Taotoken大模型接口连通性与功能
  • Seraphine终极指南：免费开源英雄联盟智能助手完整教程
  • WeatherBench终极指南：快速构建天气预报AI模型的完整基准平台
  • 从“糊涂账”到“明白账”：我们如何用低代码平台为一家电商公司重构了对账中心？
  • 开源金融数据聚合框架moltfi：量化交易数据管道构建实战
  • Cursor编辑器集成动态演示工具：让代码在幻灯片中“活”起来
  • AI智能体性能优化实战：从模型压缩到系统调优的工程实践
  • 丙火坐印，财星在时——1987年5月17日酉时命格深度解读
  • 2025届最火的六大降AI率工具实测分析
  • 2026年｜2026届毕业生如何降AI率？10款免费工具一键降AI、AIGC - 降AI实验室
  • vivo 校招怎么准备：别先乱刷题，终端系统岗位匹配比题量更重要
  • ElevenLabs语音克隆合规红线速查手册，2024最新GDPR+CCPA+中国《生成式AI服务管理暂行办法》三重适配指南
  • 3分钟精准定位Windows热键冲突的技术解决方案
  • 波分网络光层保护：原理、方案与高可用部署实践
  • 三重视角技能框架：从执行到战略，构建立体化技术能力体系
  • 阿里云，函数计算3.0 发送请求演示代码
  • 利用 TaoToken 为多租户 SaaS 平台提供模型路由与隔离
  • 5大核心功能：秋之盒ADB工具箱让你3分钟告别命令行恐惧
  • 20260516 大势与大盘——通胀升温及顶背离下的高风险市场
  • Go语言实现M3U8视频下载器：技术原理与实战应用深度解析
  • ollma lm studio