ReBalance：无需重训练即可实现推理精度+10%、长度-35%的动态思考调控

导语

大模型推理正在经历一场静默的效率革命。当行业还在争论“思维链越长越好”还是“推理越短越省”时，ICLR 2026的一篇获奖级论文给出了第三个答案——思考的“平衡”。无需重训练、即插即用，在精度提升10%的同时将推理长度压缩35%，这就是ReBalance交出的答卷。

一、问题：大模型推理的“陀螺困境”

1.1 过度思考：算力烧在“废话”上

如果你在生产环境部署过大模型推理服务，一定见过这样的场景：一个简单的“1+1等于几”问题，模型洋洋洒洒写了上千字的推理过程——先假设、再验证、再反思、再复核，最后给出一个“2”的答案。

这不是段子，而是大推理模型（Large Reasoning Models, LRMs）的真实写照。根据哈尔滨工业大学（深圳）等机构在ICLR 2026发表的论文《Efficient Reasoning with Balanced Thinking》中的分析，LRMs虽然展现了卓越的推理能力，但经常在简单问题上消耗大量冗余计算步骤。这种现象被称为过度思考（Overthinking）——模型在得出正确答案后，仍在持续分叉、回看、复核，带来更高的延迟和token成本，甚至可能引入额外幻觉。

1.2 思考不足：比过度思考更危险

过度思考的另一面是思考不足（Underthinking）