从Paddle到PyTorch:PP-LCNet_x1_0_doc_ori模型转换全流程解析
从Paddle到PyTorch:PP-LCNet_x1_0_doc_ori模型转换全流程解析
【免费下载链接】PP-LCNet_x1_0_doc_ori-NPU项目地址: https://ai.gitcode.com/z_studio/PP-LCNet_x1_0_doc_ori-NPU
PP-LCNet_x1_0_doc_ori是一个文档方向分类模型,能够识别文档图像的方向(0°/90°/180°/270°)。本文将详细介绍如何将该模型从PaddlePaddle格式转换为PyTorch格式,并在昇腾NPU上进行推理,帮助新手和普通用户轻松掌握模型转换的完整流程。
为什么需要模型转换?
在深度学习领域,不同的框架各有优势。PaddlePaddle在某些任务上表现出色,而PyTorch则以其灵活的动态图机制和丰富的生态系统受到广泛欢迎。将PP-LCNet_x1_0_doc_ori模型从PaddlePaddle转换为PyTorch格式,能够让更多开发者在熟悉的框架下使用该模型,同时也为在昇腾NPU等特定硬件上部署提供了可能。
准备工作:环境搭建
在开始模型转换之前,需要先搭建合适的环境。项目提供了详细的依赖说明文件requirements.txt,里面列出了转换和推理所需的各种库。
安装依赖
推荐使用Python 3.11的虚拟环境进行安装,命令如下:
python3 -m venv --system-site-packages venv && ./venv/bin/pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple主要依赖包括:
- PyTorch相关:torch、torch-npu、torchvision
- 图像处理:numpy、opencv-python-headless、pillow
- 模型转换:paddlepaddle、paddle2onnx、onnx、onnx2torch
模型转换全流程
1. 获取PaddlePaddle模型
首先需要获取PP-LCNet_x1_0_doc_ori的PaddlePaddle PIR推理模型(包含inference.json和inference.pdiparams文件)。
2. 使用paddle2onnx导出ONNX模型
这一步是将PaddlePaddle模型转换为ONNX格式,ONNX作为一种中间格式,能够实现不同框架之间的模型转换。转换命令如下(需先确保PaddlePaddle模型存在):
paddle2onnx --model_dir path/to/paddle_model --model_filename inference.json --params_filename inference.pdiparams --save_file /tmp/plcn_conv/plcn.onnx --opset_version 123. 折叠常量并进行形状推断
导出的ONNX模型中,权重以Constant节点存在,需要将其折叠为graph.initializer。同时,为了确保后续转换的顺利进行,需要将输入的batch维度固定为1并进行形状推断。这部分工作由convert_model.py中的fold_constants和fix_batch_dim_and_infer函数完成。
4. 打补丁解决转换问题
PP-LCNet的SE分支存在动态路径,导致ONNX形状推断无法正确推导部分张量形状,进而使onnx2torch的BatchNorm转换报错。为此,需要对onnx2torch的BatchNorm转换器打补丁,当输入形状不可用时,回退到功能化OnnxBatchNorm路径。相关代码在convert_model.py的patch_batchnorm_converter函数中。
5. 使用onnx2torch转换为PyTorch模型
经过上述处理后,就可以使用onnx2torch将ONNX模型转换为PyTorch模型了。转换后的模型会保存为model/plcn_x1_0_doc_ori_npu.pt。
模型推理验证
转换完成后,需要对模型进行推理验证,确保转换后的模型能够正确工作。项目提供了inference.py脚本用于推理。
单张图片推理
使用以下命令对单张图片进行推理:
python inference.py --image test_data/doc_90deg.png --device npu:0该命令会输出预测的文档方向、置信度以及推理时延等信息。
批量推理与结果保存
如果需要对多个图片进行推理,可以使用--image-dir参数指定图片目录。同时,通过--save-json和--save-vis参数可以保存推理结果的JSON文件和回正后的可视化图像。
python inference.py --image-dir test_data --device npu:0 --save-json --save-vis保存的回正可视化图像如:
基准测试
为了评估模型在昇腾NPU上的性能,可以进行基准测试:
python inference.py --image test_data/doc_0deg.png --benchmark --n-runs 50该命令会输出平均时延和中位时延等性能指标。
精度验证
为了确保转换后的模型在昇腾NPU上的推理精度,可以与CPU上的推理结果进行对比:
python inference.py --image test_data/doc_90deg.png --check-accuracy常见问题解决
转换过程中出现BatchNorm报错:这通常是由于SE分支的动态路径导致的,确保已正确应用convert_model.py中的补丁函数
patch_batchnorm_converter。推理时提示找不到torch_npu:检查昇腾NPU环境是否正确安装,或者回退到CPU设备运行。
图片无法读取:确保图片路径正确,且图片格式为支持的类型(如.png、.jpg等)。
总结
本文详细介绍了PP-LCNet_x1_0_doc_ori模型从PaddlePaddle到PyTorch的转换全流程,包括环境搭建、模型转换步骤、推理验证以及常见问题解决。通过本文的指南,新手和普通用户可以轻松完成模型转换并在昇腾NPU上进行推理应用。希望本文对您有所帮助!
【免费下载链接】PP-LCNet_x1_0_doc_ori-NPU项目地址: https://ai.gitcode.com/z_studio/PP-LCNet_x1_0_doc_ori-NPU
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
