【RT-DETR实战】024、NCNN框架部署RT-DETR实战：从模型导出到端侧推理的踩坑实录

一、问题切入：为什么我的RT-DETR在NCNN上跑不起来？

上周在部署RT-DETR到边缘设备时，遇到一个典型问题：PyTorch训练好的模型精度很高，导出到NCNN后检测框全部偏移，甚至出现满屏乱飞的现象。

同事在旁吐槽：“这模型在端侧水土不服啊。” 其实问题往往出在预处理对齐和算子支持度这两个老生常谈的环节。

今天我们就拆解RT-DETR的NCNN部署全流程，把关键坑点逐个填平。

二、模型导出：PyTorch到ONNX的暗礁

RT-DETR的PyTorch模型通常包含动态算子，直接torch.onnx.export大概率失败。

先看一个常见错误写法：

# 别这样写！动态维度处理会丢信息torch.onnx.export(model,dummy_input,