2025_NIPS_How do Transformers Learn Implicit Reasoning?

文章总结与翻译

一、主要内容

本文聚焦大型语言模型（LLMs）隐式多跳推理的内在机制，通过在受控符号环境中从零训练Transformer模型，系统探究隐式推理能力的形成过程与核心原理。

核心研究发现

1. 三阶段发展轨迹：模型的隐式多跳推理能力遵循"记忆阶段→分布内泛化阶段→跨分布泛化阶段"的发展路径。记忆阶段仅拟合训练数据，分布内泛化阶段可处理未见的分布内组合查询，跨分布泛化阶段能将分布外（OOD）三元组融入首跳推理。
2. 训练数据影响规律：原子三元组并非分布内泛化的必要条件，但能显著加速学习进程；第二跳泛化高度依赖训练中对特定组合结构的查询级暴露，仅在其他结构角色中接触相关事实不足以实现泛化。
3. 内部表征机制：成功的隐式推理与隐藏空间中基于余弦相似度的聚类现象强相关——相同中间实体的表征在余弦空间中汇聚，而非依赖显式可解码性。中间实体表征主要编码在中层网络的特定token位置（如r₁ token对应的第5层）。
4. 跨分布泛化本质：首跳OOD泛化并非真正的能力迁移，而是ID三元组诱导的表征对齐效应；ID监督通过约束表征空间加速聚类形成，OOD表征需融入ID诱导的聚类才能支持跨分布推理。

关键方法工具

1. 跨查询语义修补（Cross-Query Semantic Patching）：通过在