当前位置: 首页 > news >正文

为什么机器人触觉“加了反而更差“?

核心论点:触觉对机器人灵巧操作至关重要,但当前主流架构处理触觉信号的方式从根本上就是错的。问题不出在数据,出在频率。

一次昂贵的"学术翻车"

2026年6月,一份集结了26位顶级研究者的论文摆上了arXiv的桌面。李飞飞、Jim Fan、Pieter Abbeel、Jitendra Malik、Ken Goldberg、Trevor Darrell……这些名字随便拎一个出来,都是机器人或AI领域的重量级人物。

他们做了一件看起来很合理的事:在当前最先进的机器人基础模型π0.5上,注入触觉信号token,让机器人"既能看又能摸"。逻辑没毛病对吧?视觉给机器人全局感知,触觉给它精细反馈,1+1应该大于2。

实验结果:任务成功率从17%掉到了6%。

不是微降,是断崖式下跌。加了触觉之后,机器人反而更不会干活了。

频率错配:被忽略的致命bug

这个实验打脸的不是"触觉有用"这件事,而是整个行业默认的工程假设——把视觉和触觉信号塞进同一个Transformer,用同一个时钟频率处理

问题来了:视觉信号本质上是什么?摄像头拍一帧画面,模型推理一次,这个过程大概5Hz,也就是每秒处理5次。但触觉信号呢?力传感器每秒钟要采样几十甚至上百次,需要20Hz以上才能捕捉到关键的接触细节。

让一个马拉松选手和一个百米飞人用同样的速度跑。对马拉松选手来说太快了,跟不上;对飞人来说太慢了,节奏全乱。两个人互相拖累,谁都跑不好。这就是硬塞一个Transformer里发生的事。

Transformer的注意力机制在处理这些不同频率的信号时,低频的视觉信号会"稀释"高频的触觉信号,而高频触觉信号又会给视觉推理引入噪声。两边互相干扰,结果就是模型什么信号都没处理好。

这不是数据量的问题,也不是模型参数的问题。这是架构层面的根本性错配

T-Rex:让每个专家跑自己的节奏

T-Rex的核心设计思路其实很直白:既然不同模态有不同的时间节奏,那就别硬揉在一起,给它们各自配一个独立运行的专家网络

论文提出了Mixture-of-Transformers(MoT)架构,三个专家各管一摊:

专家频率职责
潜在专家(Latent)低频处理视觉+语言,预测场景变化——"理解世界在发生什么"
动作专家(Action)~5Hz运动轨迹生成,跟随视觉节奏——"决定手往哪走"
触觉专家(Tactile)20Hz+高频精细修正,毫秒级力反馈——"最后一毫米的校准"

这套架构的巧妙之处在于,三个专家不是割裂的。潜在专家先理解"现在场景里在发生什么",把信息传递给动作专家去规划运动轨迹,触觉专家则在动作执行的过程中做毫秒级的微调。就像工厂里的流水线——有人负责看图纸,有人负责操作机器,有人负责在最后关头做质检。各有各的速度,但信息是串联的。

关键技术组件

时空触觉编码器(VQ-VAE模块):把连续的时序力/触觉数据压缩成离散的"触觉词汇"。类似于语音识别把声波变成文字token——模型终于可以用处理语言的方式来处理触觉了。

预训练基础:22,889小时人类第一视角视频。模型先通过大量人类操作视频"看会"了怎么做各种动作,再在触觉数据上精调。

两组数字说明一切

指标数值说明
直接注入触觉token6%π0.5基线17%→6%,断崖下跌
T-Rex MoT架构65%平均任务成功率
vs 纯视觉基线+30pp纯视觉35%→T-Rex 65%

65%是什么概念?论文选了12项极其刁钻的测试任务,这些任务不是简单的抓取和放置,而是对精细操作要求极高的场景:

12项极限测试任务

翻书页、转移生鸡蛋、擦盘子、挤牙膏、分纸杯、分拣麻将、开锁、填药盒、模拟化学滴定、抽卡片、发扑克牌、拧灯泡

翻书页——你需要精确控制指尖力度,太轻翻不动,太重撕破了。转移生鸡蛋——稍有磕碰就碎。化学滴定——液面变化需要极精细的手部调控。这些任务的共同点是:纯靠视觉根本做不到,必须依赖触觉反馈来做毫秒级的力调节

训练数据规模

数据类型规模
触觉同步操作数据集100小时
覆盖物品200+种
动作基元类型22种
操作轨迹总数7,700+条
人类视频预训练22,889小时

这组数据也说明了一件事:触觉数据收集的成本是真实存在的。100小时的同步采集数据,背后需要专门的硬件setups、精心设计的实验协议、大量的标注和清洗。这不是随便拍拍视频就能搞定的。

对触觉传感器行业意味着什么?

这篇论文对触觉传感器产业链传递了一个重要信号:硬件本身的进步是不够的,软件侧的架构必须跟上

过去两年,灵巧手触觉传感器的融资和产品发布密度明显上升。各家都在卷采样率、分辨率、量程。T-Rex的实验证明,即便你有一个性能不错的触觉传感器,如果下游的AI模型架构没法在正确的频率上消费这些数据,传感器性能再好也发挥不出来。

换句话说,触觉传感器公司和AI模型公司之间出现了一个架构对接的gap。传感器厂商在追求更高的采样率和更密的传感点阵列,但模型端还在用5Hz的管道去接收20Hz以上的数据流。这个gap不解决,硬件端的投入会大打折扣。

产业链启示:触觉传感器的价值释放,取决于AI模型架构能否正确消费高频触觉数据。MoT这类多频率专家架构,可能成为释放触觉硬件价值的关键"翻译层"。

值得关注的是,论文后续的工作正在加速推进。TouchWorld(arXiv 2607.07287)提出了预测式和反应式结合的触觉基础模型框架;TacReasoner(arXiv 2607.05131,已被IROS 2026接收)进一步探索了动态触觉-语言推理。这个方向的论文密度正在快速上升,说明社区已经意识到了频率错配的问题并开始系统性地解决它。

「触觉三部曲」系列回顾

第一篇聊了触觉传感器硬件端的技术路线和竞争格局——哪些方案在跑、谁领先、差距在哪。

第二篇分析了触觉数据的采集成本和商业化路径——100小时数据背后的故事。

这一篇是终章:当硬件和数据都就位之后,AI模型层应该怎么接住这些数据?T-Rex给出了一个方向——别再硬塞,让不同频率的信号各走各的通道

三部曲的结论是统一的:触觉感知的价值链正在形成,但每一层都有各自的瓶颈要突破。

数据来源与参考文献
[1] T-Rex: Tactile-Reactive Dexterous Manipulation, arXiv:2606.17055, 2026.06
[2] 论文元数据: DBLP
[3] TouchWorld, arXiv:2607.07287, 2026.07
[4] TacReasoner, arXiv:2607.05131, 2026.07 (IROS 2026 accepted)

http://www.jsqmd.com/news/1219066/

相关文章:

  • 原神帧率解锁指南:3分钟突破60FPS限制,畅享高刷新率体验
  • 合规优化Cursor AI使用:5大策略构建高效AI编程环境
  • 如何用Squirrel-RIFE免费实现视频流畅化:3个简单步骤让卡顿视频变丝滑大片
  • 高效阅读训练:突破认知误区与神经科学优化
  • 8月12日谷歌推Pixel 11系列!这些新功能与改进值得期待
  • 揭秘老旧Mac焕新秘籍:OpenCore Legacy Patcher深度实战指南
  • 2026 北京 16 区全覆盖手表回收服务,全城高价回收名表线下网点 - 奢侈品回收实体店
  • D2DX终极指南:3步让《暗黑破坏神2》在现代PC上流畅运行
  • Mac终极音乐解锁指南:5分钟让QQ音乐加密文件自由播放
  • 终极免费开源字体解决方案:Bebas Neue字体完全指南
  • 月之暗面Kimi K3发布2.8万亿参数模型、NVIDIA开源RTEB榜首嵌入模型、谷歌Gemini 3.5 Pro继续推迟 | 7月17日 AI日报
  • 微信数据库解密神器:3步教你找回自己的聊天记录
  • 通用大模型、RAG与Agent在售前场景中怎么分工?别再把三者混成一个聊天机器人
  • 【JavaScript】Javascript—APIs—Day04
  • 如何用深蓝词库转换工具5分钟搞定输入法词库迁移
  • 郑州各区黄金回收测评,无套路高价回收门店汇总 - 奢侈品回收评测
  • BG3 Mod Manager终极指南:3分钟搞定博德之门3模组管理难题
  • Injector vs 其他注入工具:为什么这款命令行工具更受开发者青睐?
  • ncmdump终极指南:3分钟解锁网易云音乐NCM格式的完整解决方案
  • HarmonyOS开发 指纹验证和ESDSA加密
  • 如何快速解密网易云音乐NCM格式:ncmdump全功能使用指南
  • Remount完全指南:如何将React组件无缝转换为Web Components
  • 第一期:简易控制器
  • shadcn-chatbot-kit与Vercel AI SDK集成教程:构建智能对话应用
  • ESP32与LAN8720以太网连接与开发指南
  • 杭州防水修缮优选|筑宅安99.5高分五星品牌,专治梅季潮湿、台风暴雨各类漏水难题 - 筑宅安
  • 小熊猫Dev-C++:Windows平台上最轻量级的C++开发环境终极指南
  • 微信聊天记录解密完整指南:三步恢复加密数据
  • uniapp(vue3) -实现横向滚动选择日期组件,手势左右滑动选择日期,类似电影选票日期Tabs选项卡横向滚动一周日历周历,横向滑动日期选择器(全端兼容H5网页、小程序、安卓/苹果app、nvue
  • 终极指南:使用Custom UI Editor免费打造你的专属Office界面