最近,ByteDance Research 的第二代机器人大模型 —— GR-2,终于放出了官宣视频和技术报告。GR-2 以其卓越的泛化能力和多任务通用性,预示着机器人大模型技术将爆发出巨大潜力和无限可能。
如果把机器人和人做比较,预训练过程就好像是人类的 “婴儿期”。而 GR-2 的婴儿期与其他机器人截然不同。
它在 3800 万个互联网视频片段上进行生成式训练,也因此得名 GR-2(Generative Robot 2.0)。这些视频来自学术公开数据集,涵盖了人类在不同场景下(家庭、户外、办公室等)的各种日常活动。
这个过程,就像是它在经历一个快速的 “生长痛”,迅速学会了人类日常生活中的各种动态和行为模式。
该图展示了 GR-2 预训练数据中的样本视频和动词分布。下图中的 y 轴是最热门单词的对数频率。
这种预训练方式使 GR-2 具备了学习多种操作任务和在多种环境中泛化的潜能。庞大的知识储备,让 GR-2 拥有了对世界的深刻理解,仿佛它已经环游世界无数次。
在经历大规模预训练后,通过在机器人轨迹数据上进行微调,GR-2 能够预测动作轨迹并生成视频。
GR-2 的视频生成能力,让它在动作预测方面有着天然的优势。它能够通过输入一帧图片和一句语言指令,预测未来的视频,进而生成相应的动作轨迹。
如下图所示,只需要输入一句语言指令:“pick up the fork from the left of the white plate”,就可以让 GR-2 生成动作和视频。可以看到,机械臂从白盘子旁边抓起了叉子。右图中预测的视频和真机的实际运行也相差无几。
以下是几个进一步展示 GR-2 视频生成能力的示例,包括把物品放进烤箱、将物品置于咖啡壶嘴下方等任务。
这种能力,不仅提升了 GR-2 动作预测的准确性,也为机器人的智能决策提供了新的方向。
在人工智能领域,Scaling Law 是一个备受瞩目的概念。它描述了模型性能与其规模之间的关系。对于 GR-2 这样的机器人模型来说,这一法则尤为关键。
(a)(b)(c) 分别展示了不同尺寸 GR-2 在 Ego4d、RT-1、GR-2 三个数据集的验证集上的视频生成损失。(d) 展示了不同尺寸 GR-2 在真机实验中的成功率。
在 7 亿参数规模的验证中,团队看到了令人鼓舞的结果:更大的模型不仅能够处理更多复杂的任务,而且在泛化到未见过的任务和场景时也表现得更加出色。
这表明,通过扩大模型规模,我们可以解锁机器人更多的潜能,使其在多任务学习和适应新环境方面更加得心应手。
在多任务学习测试中,GR-2 能够完成 105 项不同的桌面任务,平均成功率高达 97.7%。
GR-2 的强大之处不仅在于它能够处理已知任务,更在于其面对未知场景和物体时的泛化能力。无论是全新的环境、物体还是任务,GR-2 都能够迅速适应并找到解决问题的方法。
更让人惊艳的是,GR-2 还能够与大语言模型相结合,完成复杂的长任务,并与人类进行互动。
比如,我们想要喝一杯咖啡。GR-2 会先从托盘里拿起杯子,并将其放在咖啡壶嘴下方。接着,它会按下咖啡机上的按钮来煮一杯咖啡。最后,当咖啡煮好了,机器人会把杯子放回托盘上。整个过程无需人类干预。
又如,我们早餐想要吃点东西。根据场景中的物体,机器人决定为我们制作一份烤面包。机器人首先按下烤面包机上的开关来烤制面包。然后它拿起烤好的面包,并将其放入红色的碗中。
ByteDance Research 还想强调,GR-2 能够鲁棒地处理环境中的干扰,并通过适应变化的环境成功完成任务。
以果蔬分类任务为例:桌子上放置着水果和蔬菜,我们需要机器人帮忙将水果和蔬菜分装到不同的盘子里。机器人能够自主识别物体的类别,并自动将它们放入正确的盘子中。
当在机器人移动的过程中移动盘子,GR-2 依然能回过神来,准确找回它要放的目标盘子。
在实际应用中,GR-2 相比前一代的一个重大突破在于能够端到端地完成两个货箱之间的物体拣选。
这个任务要求机器人从一个货箱中逐个拿起物体,并将ju.jsgb120.com其放入旁边的货箱。看似简单,但在实际应用中,能够实现这个需求的多模态端到端模型却难得一见。
球速体育官方
如下图所示,Gju.cstuochu.comR-2 可以实现货箱之间丝滑且连续的物体拣选。
无论是透明物体、反光物体、柔软物体还是其他具有挑战性的物体,GR-2 均能准确抓取。这展现了其在工业领域和真实jog.dental-age.com仓储场景的巨大潜力。
除了能够处理多达 100 余种不同的物体,例如螺丝刀、橡胶玩具、羽onmotel.com毛球,乃至一串葡萄和一根辣椒,GR-2 在未曾见过的场景和物体上也有着出色的表现。
线 在互联网视频上接受了大规模jog.easypao.com的预训练,但也存在一些进步空间。例如,真实世界动作数据的规模和多样性仍然有限。
GR-2 的故事,是关于 AI 如何推动机器人发展的故事。它不仅仅是一个机器人大模型,更是一个能够学习和适应各种任务just.huixinjieao.com的智能体。我们有理由相信,GR-2 在实际应用中拥有巨大潜力。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
湖北崇阳交警执法时与68岁司机发生肢体冲突,司机警车内失去意识后抢救无效身亡
引爆澳洲!中国富商$1510万为女儿购入澳洲豪宅!中介:7人竞拍,6人来自中国
CCTV直播,林诗栋VS林昀儒,钱天一VS巴特拉,26至27日赛程安排
年底神仙打架?就算没有OpenAI的“猎户座”,还有谷歌新Gemini 2.0
优派推出“VX2700-4K-PRO”显示器:4K 165Hz 1152 分区,2999 元
机械师新版创物者 mini 主机曝光,搭载酷睿 Ultra 7 258V 处理器
苹果“多事之秋”:新机罕见降价促销、VisionPro传停产 库克手上还有什么牌?
全业务链路打造“510全民邮享日” 中国邮政助推中国品牌走高
邮政看来,每一种业务都是一种多彩生活,每一次服务都是邮政为...(920 )人阅读时间:2024-10-28为幸福生活加“邮”
球速体育近日,一辆邮政车停在江西省抚州市宜黄县梨溪镇桐源村...(646 )人阅读时间:2024-10-28方寸之中“邮”苏州让青少年暑期生活更“邮趣”
球速体育官方网站新华报业·新江苏讯(记者 芦艳)为丰富青少...(761 )人阅读时间:2024-10-289月邮政会员日福利即将开幕邀你抢先看!
球速体育官方,每正确猜中一场赛事的胜负,即可参与一次抽奖。...(784 )人阅读时间:2024-10-28