当前位置：首页 > news >正文

连续潜空间推理深度解析：从 Coconut 隐状态回灌、CODI 自蒸馏到 System-1.5 动态捷径的无词思考新范式

news 2026/7/25 23:31:54

连续潜空间推理深度解析：从 Coconut 隐状态回灌、CODI 自蒸馏到 System-1.5 动态捷径的无词思考新范式
- 核心痛点：显式思维链把每一步内部计算都翻译成自然语言 token，带来串行解码延迟、冗余表达、训练依赖和推理成本，而连续潜空间推理试图让模型直接在高维隐藏状态中完成部分思考。
- 适配人群：大模型算法工程师、推理系统工程师、研究生、关注推理模型效率与可解释性的技术负责人。
- 收获能力：理解潜在思维链的表示、递归、训练和动态计算机制，能够区分 Coconut、CODI、System-1.5 与 HRPO，并完成一个可运行的最小潜空间推理原型。
- 系列标识：本文属于《AI 深度解析》系列，聚焦底层原理、架构机制与工程实践。
- 技术背景：为什么思考不一定需要先变成文字
  - 显式思维链的价值：通过生成中间自然语言步骤，模型可以把复杂问题拆解为可观察的局部问题，训练者也能检查推理轨迹。
  - 显式思维链的代价：每个推理 token 都必须经过完整自回归解码，前一个 token 生成后才能计算下一个 token，无法摆脱串行链路。
  - 表示瓶颈：语言是低带宽、离散且面向人类交流的接口，模型隐藏状态则是高维、连续且面向计算的内部表示。
  - 信息损失：将一个高维状态压缩为词表中的单个 token，会丢弃未被当前词语表达的候选路径、置信度和局部特征。
  - 冗余问题：模型常产生“我们需要分析”“接下来计算”等格式化语句，这些 token 消耗算力，却不一定增加问题求解能力。
  - 监督依赖：高质量显式思维链昂贵，并可能包含错误步骤；模型容易学习表达风格，而不是真正的状态转换规律。
  - 忠实性问题：语言化解释并不保证对应模型真实的内部因果过程，流畅推理文本可能只是答案生成后的合理化叙述。
  - 安全张力：显式推理便于审计，但也会泄露系统策略；潜空间推理减少文本暴露，却让内部计算更难观察。
  - 核心假设：如果 Transformer 的隐藏状态已经编码了足够的中间语义，就可以直接把该状态作为下一轮输入，而不必先投影成词再重新嵌入。
  - 范式演进（text 流程树）：
```
推理计算演进 ├── 直接回答 -> 单次前向计算 -> 速度快但复杂问题能力有限 ├── 显式 CoT -> 生成中间文本 -> 可观察但 token 成本高 ├── 蒸馏式隐式推理 -> 用训练吸收 CoT -> 推理快但计算深度固定 ├── 连续潜在 CoT -> 隐状态回灌 -> 避免离散词表瓶颈 └── 混合动态推理 -> 语言与潜空间切换 -> 按步骤难度分配预算
```
  - 研究脉络：2024 年底 Coconut 提出连续思维，2025 年 CODI 引入自蒸馏压缩，System-1.5 同时设计深度捷径与步骤捷径，HRPO 则用强化学习学习离散与连续表示的融合策略。
  - 本文边界：潜空间推理不是证明模型具有人类意识，也不是把隐藏状态直接解释为自然语言，而是一类减少离散中间 token、增加内部递归计算的工程方法。
- 基础数学：从离散 token 循环到连续状态循环
  - 标准自回归语言模型：给定 token 序列，嵌入层把离散编号映射为向量，Transformer 输出隐藏状态，再经语言模型头得到下一 token 的概率分布。
  - 标准链路（text 流程树）：
```
离散自回归回路 ├── token id -> embedding 向量 ├── embedding -> Transformer 层栈 ├── 最后一层隐藏状态 -> LM Head ├── logits -> softmax 概率 ├── 采样或贪心 -> 新 token id └── 新 token id -> 下一轮 embedding
```
  - 离散瓶颈：隐藏状态先被语言模型头压缩为词表分布，再选出一个 token，随后嵌入矩阵又将这个 token 展开为单一向量。
  - 连续捷径：跳过 LM Head、采样与重新查表，直接把上一轮最后位置的隐藏状态映射到下一轮输入空间。
  - 记号定义：输入嵌入序列记为E ( 0 ) E^{(0)}E(0)，第l ll层变换记为H ( l ) = L l ( H ( l − 1 ) ) H^{(l)} = L_l(H^{(l-1)})H(l)=Ll(H(l−1))，最后状态记为h t h_tht。
  - 显式生成：下一 token 概率可写为p ( y t + 1 ) = m a t h r m s o f t m a x ( W o h t ) p(y_{t+1}) = mathrm{softmax}(W_o h_t)p(yt+1)=mathrmsoftmax(Woht)。
  - 连续思维：第k kk个潜在状态可写为c k + 1 = P ( h k ) c_{k+1} = P(h_k)ck+1=P(hk)，其中P PP是恒等映射、归一化映射或可训练投影。
  - 递归计算：h k + 1 = F ( E x , c 1 , c 2 , . . . , c k + 1 ) h_{k+1} = F(E_x, c_1, c_2, ..., c_{k+1})hk+1=F(Ex