【RT-DETR实战】026、TensorRT部署RT-DETR实战(FP32/FP16)
一、深夜的报错日志
凌晨两点,终端里又弹出一行熟悉的错误:[TensorRT] ERROR: INVALID_ARGUMENT: getPluginCreator could not find plugin ...。这已经是这周第三次在RT-DETR转TensorRT时卡在插件注册环节了。
真实的工程部署从来不是跑通官方demo就结束,那些藏在细节里的魔鬼,总在深夜的日志里露出獠牙。
今天咱们不聊理论,直接上手解决实际问题。
RT-DETR作为Transformer架构的目标检测器,部署到TensorRT时面临两个核心挑战:动态shape支持和自定义算子转换。
下面这份笔记,是我在三个实际项目中踩坑填坑的实战记录。
二、环境配置的隐蔽陷阱
很多人以为装好TensorRT就万事大吉,其实环境配置里埋着不少雷。
先说版本匹配问题,PyTorch、ONNX、TensorRT三者的版本必须严格对齐。
# 错误示范:随便装个最新版# pip install tensorrt # 这样装大概率后面会崩# 正确姿势:去官网下载对应CUDA版本的tar包# 我用的组合是: