当前位置: 首页 > news >正文

RoboDojo评测基准立起“具身珠峰”,当前机器人模型距通用操作还有多远?

RoboDojo评测基准:通用机器人攀登“具身珠峰”,当前模型距可靠通用操作还差多远?

过去一年,VLA、机器人基础模型、世界模型轮番登场,机器人的一个个demo看起来越来越丝滑,能完成叠碗、插管、收纳、倒水、整理桌面等任务,似乎开始听懂人话、理解世界、动手干活。但问题也随之而来:这些模型到底谁更强?强在哪里?能不能从仿真走到真实世界?离真正的通用操作机器人,还有多远?

现在,曾推出RoboTwin系列基准的原班团队带来了RoboDojo,一个统一的仿真 + 真实世界机器人操作评测基准。其官网为https://robodojo - benchmark.com/ ,arXiv链接是https://arxiv.org/abs/2607.04434 ,排行榜见https://robodojo - benchmark.com/LeaderBoard ,基准代码在https://github.com/RoboDojo - Benchmark/RoboDojo ,XPolicyLab代码为https://github.com/XPolicyLab/XPolicyLab ,社区链接是https://robodojo - benchmark.com/community 。

它不只是又一个benchmark,更像是给具身智能立了一座“珠峰”:有42个仿真任务,18个真实机器人任务,30个主流机器人策略同台竞技,覆盖泛化、记忆、精细操作、长程执行、开放语义理解五大能力。结果很残酷,当前最强通用机器人策略,在仿真平均成功率仅8.80%;到了真实世界,最好模型平均成功率也只有12.8%。而人类专家在仿真里成功率达76.03%,在真实世界是100%。这表明机器人基础模型虽开始攀登具身珠峰,但大多还在山脚适应高反。

任务设计:这座山为何难?

RoboDojo的难点不在于简单堆砌任务数量,而在于把机器人操作能力拆成更接近真实世界的“登山关卡”。

在仿真环境中,它设计了42个任务,围绕五个核心能力展开:

  • Generalization:看模型能否适应新背景、新光照、新物体和复杂杂乱场景。比如泛化任务中,桌面杂物最多可随机到25个,背景、光照、物体外观和布局都会变化。
  • Memory:看模型能否记住之前看到的信息,并在后续动作中用上。像在记忆任务里,机器人需要记住传送带上曾经出现又消失的物体,再从后续候选物中选出匹配目标。
  • Precision:看模型能否完成插入、对齐、精确接触等高精度操作。精细操作任务中,机器人要完成插管、对齐、插入等高容错要求动作,稍微偏一点就会失败。
  • Long - Horizon:看模型能否完成多步骤、强依赖、误差会累积的任务。长程任务更接近真实家务,机器人要连续完成多个子步骤,拿起、移动、交接、对齐、放置等每一步都可能引入误差,且误差会一路累积到最后。
  • Open:看模型能否理解没见过的开放语义指令,并把语言目标变成动作。

不过,RoboDojo没有停在仿真里。它把评测搬到真实机器人上,设计了18个真实世界任务,覆盖ARX X5、Piper、Piper X三种双臂机器人平台,每个平台各6个任务。这些任务不是仿真任务的复刻,而是考察机器人在真实物理世界中的部署能力。例如,ARX X5上有盖积木、做面包、制作食物、装水果并倒出、保险箱收纳、插管等任务;Piper上有堆叠并盖住积木、填笔筒、把物体放进篮子、插充电器、叠碗、扶正瓶子等任务;Piper X上则包括物体分类、拆乐高、挂杯子、把物品装进背包、清扫积木、盖笔帽等任务。

真实世界每一步都带着物理不确定性,物体可能滑动,夹爪可能没夹稳,机械臂可能有微小延迟,相机可能有噪声,接触瞬间可能把目标推偏。更重要的是,RoboDojo - RealEval对真机评测做了标准化:统一硬件配置、工作空间布局、光照条件、场景复位流程、评测协议和部署接口。每次测试前,评测人员会根据预设布局复现场景;每个trial还会由三名评审双盲打分,既看最终成功,也看中间步骤完成情况。这意味着RoboDojo的真机部分把真实机器人操作变成了一套可复现、可比较、可远程接入的标准化考试,追问机器人换一台还稳不稳、真实接触会不会抖、物体偏一点能否修正、任务做到一半出错能否恢复、离开仿真训练场还能不能继续爬山。这才是“具身珠峰”的真正含义,即仿真诊断和真实部署两条路线都不能掉链子。

榜单一出,差距尽显

RoboDojo最核心的部分是其公开排行榜。它和很多“自家模型自家测”的评测不同,由全学术机构联盟发起和维护,背后没有商业模型方利益绑定,榜单治理由公益性组织AI MMLab Club基金会负责。这意味着这座“具身珠峰”是面向整个社区开放的公共登山路线。

在仿真榜单中,团队集成并评测了30个代表性机器人操作策略,如Hy - Embodied - 0.5 - VLA、Spatial Forcing、π0.5、X - VLA、GR00T - N1.7、π0、OpenVLA - OFT等。榜单第一是Hy - Embodied - 0.5 - VLA,平均分13.07,平均成功率8.80%。紧随其后的是Spatial Forcing、π0.5、X - VLA等模型,但整体表现仍处于很低区间。即便领先模型,在五大能力维度上也没有一个真正“全能”,有的模型泛化更强,有的精细操作更稳,有的长程任务能多推进几步,但拉到完整榜单上看,短板明显。这表明今天的机器人模型不是不会动,而是不够稳;不是完全不会做任务,而是很难稳定做完任务。很多策略可以完成部分步骤,但最终成功率很低,比如长程任务里,机器人可能已拿起物体、移动到目标附近,却在最后对齐、插入、放置或恢复阶段失败。这也是具身智能和纯语言、纯视觉任务最大的不同,在物理世界里,差一点就是失败。

真实世界榜单更扎心

如果说仿真还是“训练场”,真实机器人就是“珠峰实地”。真实世界榜单里,表现最好的模型是π0.5,总体成功率12.8%,平均分22.9。头部梯队包括InternVLA - A1、GalaxeaVLA、Xiaomi - Robotics - 0、X - VLA等,但整体成功率依然只有个位数到十几个百分点。这说明仿真里相对靠前,不代表真实世界里一定稳。真实机器人会引入额外困难,如相机噪声、标定误差、机械臂延迟、接触不稳定、动作抖动、安全边界、物体初始位置微小偏差等,这些在demo视频里常常看不见,但在标准化评测中会集中暴露。RoboDojo的意义在于,它不只是问“机器人有没有做成功”,而是追问这个策略能否在仿真中通过全面性考察,同时在现实世界中直面挑战。

为何是“具身珠峰”

从结果看,RoboDojo暴露出当前机器人基础模型的能力增长并不均衡。有些模型能更好地识别目标,有些能更顺畅地执行动作,有些在长程任务中能推进更多步骤。但真正的通用机器人不能只在某一个能力维度上强,它既要看得懂,也要记得住;既要规划对,也要手上准;既要能处理熟悉任务,也要能理解开放指令;既要在仿真里跑通,也要在真实机械臂上稳定执行。而RoboDojo的实验结果显示,今天的模型在这些维度上仍存在明显短板。最典型的是Open任务,即使最强模型,在开放语义任务上的成功率也只有约1.67%。这意味着,当前机器人基础模型距离真正“听懂人话并可靠干活”还有明显距离,它们可以在熟悉任务上模仿,但面对新目标、新语义、新组合时,语义理解、视觉定位、技能选择和动作执行这条链路仍然很脆弱。这就是具身珠峰的难点,不是单点能力登顶,而是所有能力都不能掉链子。

不只是评测,还是基础设施

RoboDojo还有两个重要组成部分。

一个是异构并行仿真。传统仿真并行往往是复制同一个场景,只改初始位置;RoboDojo支持不同任务、不同物体、不同布局同时跑,大幅提升评测效率。

另一个是XPolicyLab,它相当于RoboDojo背后的“统一接入层”,专门解决机器人策略评测中不同模型数据格式、预处理流程、训练脚本、动作表示和部署环境不同,导致工程成本高的问题。XPolicyLab把这些外部流程标准化,提供统一的数据转换、训练模板、部署流程和评测脚本,同时保留各个策略本身的模型结构和实现方式。这样,不同机器人策略只要接入统一的observation - action接口,就能在RoboDojo的仿真环境和RoboDojo - RealEval真机平台上运行。这次论文中,团队已通过XPolicyLab集成了30个代表性机器人操作模型。对于研究者来说,这意味着模型可以“一次接入,多处评测”,先在仿真中快速迭代、诊断能力短板,再部署到真实机器人上接受标准化测试。因此,RoboDojo不只是论文里的静态benchmark,而是一个可持续更新的具身智能竞技场,模型可以不断上榜,任务可以持续扩展,真实机器人评测也可以远程接入。对于机器人基础模型领域来说,这很重要,因为在通往通用操作机器人的路上,大家不仅需要更大的模型、更酷的demo,也需要一套能反复衡量进步的“海拔尺”。

具身智能,有了更高的山

过去,机器人领域常被demo驱动,一个模型能完成几个漂亮任务,就容易让人产生“通用机器人快来了”的错觉。但RoboDojo给出的结论更冷静:当前模型确实在进步,但距离可靠、泛化、可部署的通用机器人操作,还差得很远。这并非坏消息,恰恰相反,RoboDojo把问题摆清楚了,谁能泛化,谁会遗忘,谁动作抖,谁只会做一半,谁在真实世界掉队,谁能在榜单上往上爬。具身智能终于不只是比拼宣传片,而是开始比拼标准化赛道上的真实成绩。这座“具身珠峰”已经立起来了,接下来,就看谁先登顶了。

项目负责人介绍

陈天行,香港大学MMLab直博生,师从罗平教授。在ICML、CVPR、ICLR、RSS等领域顶会发表论文十余篇,获多项顶会研讨会最佳论文奖、多项顶会学术竞赛冠亚军。获红杉中国与《麻省理工科技评论》中国评选AI25(25岁以下AI创新青年先锋)、深圳大学特奖(学生最高荣誉)、CCF优秀大学生(全国99人)。是RoboTwin 2.0第一作者、头部具身开源社区Lumina创始人,开源项目累计获得GitHub近两万星。

陈越,北京大学硕士研究生,主要研究方向为三维视觉表征与机器人仿真。迄今已发表CCF A类、CAAI A类高水平论文10余篇,多篇成果以Oral、Spotlight形式收录,相关工作获CVPR、IROS等国际会议研讨会最佳论文奖项。曾获评国家奖学金、北京大学三好学生荣誉。

未来扩展

RoboDojo团队后续还会持续输出灵巧操作、移动操作、触觉操作、人型全身操作等评测。

http://www.jsqmd.com/news/1153537/

相关文章:

  • PaperxieAI 开题生成工具:三步标准化创作逻辑,轻松搞定开题撰写各类卡点
  • RAG在技术文档检索中的实战部署:ChromaDB与Embedding流水线
  • DeepSpeed: 大模型微调框架全面解析
  • Magpie终极指南:如何让老旧窗口瞬间高清化的完整教程
  • 上海靠谱的画册设计品牌哪家专业
  • Google Pay API v3 服务端订单校验:Java SDK 集成与 2 种验证方式对比
  • 终极指南:如何在Linux系统上部署Wallpaper Engine动态桌面引擎
  • 兴庆区靠谱的配镜眼科诊所
  • 银川靠谱的配镜眼科诊所
  • Open-Meteo:5分钟搭建专属天气API的完整指南
  • Otsu vs 自适应阈值:OpenCV 4种阈值法在5类场景下的性能对比
  • FontCenter终极指南:彻底告别AutoCAD字体缺失的完整解决方案
  • Paperxie 智能开题 AI 生成工具,一键打通毕业生选题筹备全流程
  • AI 辅助数据库查询优化:从慢查询日志到索引建议的完整链路
  • 3分钟搞定Foobar2000逐字歌词:ESLyric-LyricsSource完全配置指南
  • HarmonyOS 6.1 剪贴板操作实战 — pasteboard API的正确使用姿势
  • 解锁Foobar2000逐字歌词新境界:三大平台歌词源完美适配指南
  • Agent 核心原理:工具调用、记忆与任务规划-7708
  • 3个理由告诉你:为什么QModMaster是工业通信调试的最佳开源选择?
  • 计算机毕业设计之篮球场综合管理系统
  • AI应用落地实战:从模型集成到工程化部署的完整指南
  • 九大 AI 毕业论文写作工具实测盘点,高效破解毕业生论文全流程卡点
  • 机器学习模型评估3大误区:从80%训练集划分到混淆矩阵解读
  • Orca状态预测:从Token预测到世界理解的AI范式革命
  • 应对现代测试自动化挑战的技术架构:Testsigma AI驱动测试平台深度解析
  • 鸿蒙6G全域通感一体化体系架构 第一卷一阶第四篇 鸿蒙物理能量场域适配电磁波传播公理
  • AI大模型应对高考题的能力边界与工程化测试实践
  • 为什么现在吹Codex这么多?深度解析Codex爆火背后的原因
  • 3个关键步骤:用VASPsol轻松搞定DFT溶剂化计算
  • 抖音内容管理革命:如何用开源工具高效批量下载与整理创作素材