OpenAI前CTO创办实验室发布TML-Interaction-Small，让AI告别“回合制”交互

Thinking Machines Lab（TML）发布首个模型TML-Interaction-Small，让实时交互成为模型原生能力，其响应延迟比GPT-realtime-2.0快4倍，交互质量测评领先，开启人机交互新模式。

告别“回合制”交互

目前大多数AI系统是“回合制”，用户输入时模型等待，生成时对新信息感知冻结。TML让AI在任何模态上都能实时交互，人和AI可随时插嘴，音频和代码能同时输出。

技术实现机制

TML把连续音频、视频、文本切成200ms的“微回合”，采用双模型协同架构。前台模型持续接收新输入，后台模型异步跑长推理等，结果流式回传插入对话。

训练核心方法

训练阶段采用encoder-free early fusion，音频、图像编码与Transformer共同训练，在训练阶段共享实时互动语境。200ms响应带来工程压力，TML做了streaming sessions解决。

重新认识TML

TML此前0产品、0收入就获高融资，此次发布交互模型，首次完整展示技术路线，此前的动作也都有了清晰脉络，其想赌下一个人机协作界面。

未来规划

此次发布的TML-Interaction-Small只是第一步，更大规模的预训练模型计划在今年晚些时候发布。编辑观点：TML的新模型为AI交互带来革新，未来人机协作有望更高效，值得期待其后续更大规模模型的表现。