端侧 AI 落地避坑指南（中）：为什么 QAT 救不了精度？——对齐“融合后算子“的硬件物理约束

前言：一个令人困惑的现象

在上一篇文章中，我们深入探讨了量化的本质，并得出结论：QAT（量化感知训练）是保持精度的关键。但在实际工程中，你可能遇到过这样的困惑：

明明做了 QAT，精度还是崩塌了！

让我们看一个真实的案例：

某摔倒检测项目，工程师小王严格按照 QAT 流程操作：

• ✅ 使用了MovingAverageMinMaxObserver
• ✅ 配置了per_tensor_symmetric量化
• ✅ 训练了 50 个 epoch，学习率降为原来的 1/10
• ✅ 冻结了 BN 统计量

但结果令人沮丧：

• FP32 模型：mAP = 0.85
• QAT 后 FP32：mAP = 0.84（正常）
• 工具量化后：mAP = 0.68（崩塌！）

问题出在哪里？

答案隐藏在一个被大多数人忽视的技术细节中：层融合（Layer Fusion）机制。

在这篇文章中，我将深入剖析层融合如何影响量化精度，以及如何让 QAT 配置与融合后的硬件物理约束严格对齐。

一、层融合：从"数学公式"到"硬件算子"的质变

1.1 什么是层融合？

层融合是将多个连续的算子在部署阶段合