吊牌质检一秒要处理50张图？我用了这3招

服装吊牌检测系统部署到产线后，最大的抱怨从来不是“检得不准”，而是“速度跟不上”。产线节拍是每秒处理两件衣服，每件衣服有正反两张吊牌加上洗标和价格签，一个工位每秒钟要处理4-5张图像。系统如果不能在几百毫秒内完成检测，产线就会堆料堵线停机。在保证精度的前提下把单张处理时间压缩到150ms以内，是我们必须跨过的门槛。那具体可以采取什么办法？

决策一：图像裁剪，省掉不必要的计算

很多人习惯把相机拍到的全幅图像直接送入算法处理，但吊牌在画面中只占了一小部分，大量算力浪费在背景上。我做的第一件事很简单：在检测区域设置裁剪框，把成像区域裁剪到刚好覆盖吊牌本身，四周只留少量余量。就这么一刀，图像面积减少了60%-70%，后续所有环节的计算量同步下降。裁剪后检测时间从210ms降到了130ms，精度没有任何损失。但后来也吃过亏，为了追求速度把裁剪框设太紧，新来一批吊牌尺寸大了2mm，边缘被裁掉，系统连续报警。之后余量从2%放宽到10%，牺牲了一点速度但再也没出过问题。

决策二：推理批处理，减少调度开销

刚开始用单张推理模式，每张吊牌图独立调用一次模型。后来发现工业相机连续拍摄时图像是一帧一帧来的，但每帧间隔只有几十毫秒，每一帧单独推理都要经历内存拷贝和GPU上下文切换。我改成积攒4张图片做一次批量推理，四张图一起输入一次性输出四个结果，推理时间从100ms降到40ms。批处理节省的是调度开销，但批量不宜太大，超过8张延迟会明显增加，而且产线如果间歇停顿，积攒批量会导致等待。

决策三：分布式推理，每路相机各配各的算力

最初四路相机共用一台RTX3060工控机，结果同时拍摄时GPU显存排队严重，单路延迟从80ms飙升到300ms以上，产线直接停机。后来换了一种思路：每路相机配一台Jetson Orin NX，四台各自独立推理互不影响。单台处理一张吊牌约50-70ms，四台总成本和一台高性能工控机加显卡差不多，但稳定性和扩展性好很多，以后加第五第六路直接加设备就行。框架层面也从PyTorch切到了TensorRT FP16，速度又翻了一倍。

有什么效果？

经过这三招，单张处理从210ms降到70ms，四路同时工作时最坏延迟85ms，完全满足要求。速度优化的本质是做减法，砍掉不需要的背景、减少调度开销、避免排队等待，每砍掉一个冗余步骤速度的提升都是白送的。

速度问题解决之后，还有一个更大的困惑摆在我们面前——大模型火了一年多，VLM能看图能理解能对话，那用它来做吊牌识别是不是更智能？我实际测了100张吊牌，结果让人大跌眼镜，下一期我们来聊聊VLM在吊牌检测上的实测表现，以及它到底有没有用。