当前位置：首页 > news >正文

从ONNX到NCNN：Android端模型部署的完整环境搭建与转换实战

news 2026/4/23 7:18:38

1. 环境准备：搭建Windows下的开发工具链

在开始ONNX到NCNN的模型转换之前，我们需要先配置好开发环境。这个过程就像盖房子前要准备砖块和水泥一样，缺一不可。我去年在给公司部署人脸识别模型时，就因为没有正确配置环境浪费了两天时间，后来才发现是OpenCV版本不兼容的问题。

首先需要安装的是Visual Studio 2019。建议选择16.11版本，虽然其他小版本也能用，但这个版本最稳定。安装时只需要勾选"C++桌面开发"组件就够了，其他组件用不上。安装完成后，记得检查下是否安装了Windows 10 SDK（版本19041或更高），这个在后面编译时会用到。

接下来是CMake的安装。我推荐使用3.19.1版本，实测下来这个版本和后续工具链配合最好。安装完成后，需要把CMake的bin目录（比如C:\Program Files\CMake\bin）添加到系统环境变量Path中。测试是否安装成功很简单，打开cmd输入cmake --version，能看到版本号就说明安装正确。

OpenCV的安装稍微复杂些。建议使用3.4.10版本，这个版本和NCNN的兼容性最好。下载后解压到某个目录（比如D:\opencv），然后需要把OpenCV的bin目录（D:\opencv\build\x64\vc15\bin）添加到用户环境变量中。这里有个坑要注意：一定要添加到用户变量而不是系统变量，否则可能会和其他软件冲突。

2. 编译Protobuf：模型转换的基础组件

Protobuf是Google开发的一个序列化工具，NCNN用它来处理模型参数。就像快递打包需要统一的包装盒一样，Protobuf就是模型参数的"标准包装"。我在第一次编译时遇到了不少问题，后来发现是版本选择不当导致的。

我们需要使用protobuf 3.4.0版本，可以从GitHub下载源码。解压后，在开始菜单找到"x64 Native Tools Command Prompt for VS 2019"，右键以管理员身份运行。这个命令行工具很重要，它配置好了VS2019的编译环境。

进入protobuf源码目录后，依次执行以下命令：

mkdir build-vs2019 cd build-vs2019 cmake -G"NMake Makefiles" -DCMAKE_BUILD_TYPE=Release -DCMAKE_INSTALL_PREFIX=%cd%/install -Dprotobuf_BUILD_TESTS=OFF -Dprotobuf_MSVC_STATIC_RUNTIME=OFF ../cmake nmake nmake install

这个过程大概需要15-20分钟，取决于你的电脑配置。编译完成后，会在build-vs2019目录下生成install文件夹，里面包含了我们需要的头文件和库文件。记得把这个路径记下来，后面编译NCNN时会用到。

3. 编译NCNN框架：打造模型运行引擎

NCNN是腾讯开源的神经网络推理框架，专门为移动端优化过。就像把燃油发动机改装成电动车一样，我们需要把通用的ONNX模型转换成NCNN专属格式。

首先克隆NCNN的源码：

git clone https://github.com/Tencent/ncnn.git cd ncnn git submodule update --init

然后创建编译目录并配置编译选项。这里需要特别注意路径的设置，我整理了一个表格说明关键参数：

参数名	示例值	说明
Protobuf_INCLUDE_DIR	E:/protobuf-3.4.0/build-vs2019/install/include	Protobuf头文件路径
Protobuf_LIBRARIES	E:/protobuf-3.4.0/build-vs2019/install/lib/libprotobuf.lib	Protobuf库文件路径
Protobuf_PROTOC_EXECUTABLE	E:/protobuf-3.4.0/build-vs2019/install/bin/protoc.exe	Protobuf编译器路径
OpenCV_DIR	D:/opencv/build	OpenCV安装路径

完整的编译命令如下：

mkdir build-vs2019 cd build-vs2019 cmake -G"NMake Makefiles" -DCMAKE_BUILD_TYPE=Release -DCMAKE_INSTALL_PREFIX=%cd%/install -DProtobuf_INCLUDE_DIR=你的protobuf头文件路径 -DProtobuf_LIBRARIES=你的protobuf库文件路径 -DProtobuf_PROTOC_EXECUTABLE=你的protoc.exe路径 -DOpenCV_DIR=你的OpenCV路径 .. nmake nmake install

编译过程大概需要30分钟。完成后，在build-vs2019/tools/onnx目录下会生成onnx2ncnn.exe工具，这就是我们转换模型的关键。

4. 模型优化与转换：从ONNX到NCNN

拿到onnx2ncnn工具后，先别急着转换。就像搬家前要整理物品一样，我们需要先优化ONNX模型。原始ONNX模型往往包含很多冗余节点，直接转换可能会出错。

安装onnx-simplifier工具：

pip install -i https://pypi.douban.com/simple -U onnx-simplifier --user

优化模型命令：

python -m onnxsim input.onnx output-sim.onnx

优化完成后，就可以用onnx2ncnn工具转换了：

onnx2ncnn output-sim.onnx model.param model.bin

转换后会生成两个文件：.param文件描述模型结构，.bin文件保存模型参数。我在实际项目中遇到过转换失败的情况，通常是以下原因：

ONNX模型使用了NCNN不支持的算子
模型输入输出维度设置不正确
ONNX版本太新，与转换工具不兼容

遇到问题时，可以尝试用ONNX Runtime先运行原始模型，确保模型本身是正确的。如果某些算子不支持，可以考虑用NCNN的自定义层功能，或者修改模型结构避开这些算子。

5. Android端部署：让模型跑在手机上

有了NCNN模型文件后，就可以集成到Android项目中了。这个过程就像把组装好的发动机装到汽车上，需要处理好接口和动力传输。

首先在Android Studio中配置NCNN：

把编译好的NCNN库文件（.so）放到app/src/main/jniLibs目录
在build.gradle中配置NDK版本
添加必要的头文件到cpp/include目录

一个简单的图像分类示例代码：

#include <ncnn/net.h> ncnn::Net net; net.load_param("model.param"); net.load_model("model.bin"); ncnn::Mat in = ncnn::Mat::from_pixels(image.data, ncnn::Mat::PIXEL_RGB, image.cols, image.rows); ncnn::Mat out; ncnn::Extractor ex = net.create_extractor(); ex.input("input", in); ex.extract("output", out);

在实际部署时，有几个性能优化技巧：