为了加速全球人形机器人的发展,在 SIGGRAPH 2024上,NVIDIA正式宣布为全球机器人制造商、AI模型开发者和软件制造商提供一套服务、模型以及计算平台,以开发、训练和构建下一代人形机器人。
整套产品包括用于机器人仿真和学习的全新 NVIDIA NIM™ 微服务和框架、用于运行多阶段机器人工作负载的 NVIDIA OSMO 编排服务,以及支持 AI和仿真的远程操作工作流,该工作流允许开发者使用少量人类演示数据来训练机器人。
简化训练和仿真工作流,缩短部署和开发周期
NVIDIA NIM(NVIDIA Inference Manager)是一个由NVIDIA提供的工具,用于管理和优化AI模型的推理过程。NIM旨在帮助开发者和企业更高效地部署、扩展和维护他们的AI推理应用。
为了帮助开发者加速产品开发,NVIDIA在NIM 微服务中提供了由 NVIDIA 推理软件提供支持的预构建容器,使开发者能够将部署时间从数周缩短到几分钟。机器人专家将能够通过两项新的AI微服务,在 NVIDIA Isaac Sim™m(基于NVIDIA Omniverse™ 平台构建的机器人仿真参考应用)中增强生成式物理 AI仿真工作流。
除此之外,MimicGen NIM 可根据 Apple Vision Pro 等空间计算设备记录的远程操作数据,生成合成运动数据。Robocasa NIM 可在 OpenUSD(一个用于在 3D 世界中进行开发和协作的通用框架)中生成机器人任务和仿真就绪环境。
现已推出的 NVIDIA OSMO 是一项云原生托管服务,允许用户跨分布式计算资源来协调和扩展复杂的机器人开发工作流,无论是在本地还是在云端。
OSMO 大大简化了机器人训练和仿真工作流,将部署和开发周期从数月缩短到一周内。用户可以对各种任务进行可视化管理,包括合成数据生成、模型训练、强化学习以及大规模的人形机器人、自主移动机器人和工业机械臂软件在环测试。
不难发现,
使用真实数据和合成数据,节省时间和降低成本
训练人形机器人的基础模型需要大量的数据。远程操作是获取人类演示数据的方法之一,但这个过程正变得越来越昂贵和漫长。
通过在 SIGGRAPH 计算机图形大会上展示的 NVIDIA Al和 Omniverse 远程操作参考工作流,研究者和 AI开发者能够从极少量远程捕捉的人类演示中生成大量合成运动和感知数据。
首先,开发者使用 Apple Vision pro 捕获少量远程操作演示,随后在 NVIDIA lsaac Sim 中仿真这些录像,并使用 MimicGen NIM 基于录像生成合成数据集。
开发者可以使用真实数据和合成数据对 Proiect GROOT 人形机器人基础模型进行训练,以节省时间和降低成本。然后,他们可以使用Isaac Lab 中的 Robocasa NIM(一个机器人学习框架)来生成经验并重新训练机器人模型。在整个工作流中,NVIDIAOSMO 将计算任务无缝地分配给不同的资源,为开发者减少了数周的管理工作量。
通用机器人平台公司傅利叶看到了使用仿真技术综合生成训练数据的优势。
傅利叶 Alex Gu 表示,人形机器人的开发极其复杂,这项工作需要从现实世界中繁琐地获取大量真实数据。NVIDIA的全新仿真和生成式AI开发者工具将有助于引导和加速我们的模型开发工作流。
扩大开发者技术访问渠道,简化人形机器人开发
NVIDIA 提供了三个计算平台来简化人形机器人的开发,分别是:用于训练模型的 NVIDIA AI超级计算机;基于 0mniverse 构建的 NVIDIA lsaac Sim,使机器人可以在仿真世界中学习和完善技能;以及用于运行模型的 NVIDIA Jetson™ Thor 人形机器人计算机。开发者可以根据具体需求来访问和使用全部平台或其中的任何部分。
通过新的 NVIDIA 人形机器人开发者计划,,开发者可以提前获取这些新产品以及全新版本的NVIDlA lsaac Sim、NVIDIA lsaac Lab、 Jetson Thor 和 Project GR00T通用人形机器人基础模型。
首批加入早期访问计划的企业有 1x、波士顿动力公司、字节跳动 ByteDance Research、FieldAl、Figure、傅利叶、银河通用、逐际动力、Mentee、Neura Robotics、星动纪元和 Skild Al。
波士顿动力公司 Aaron Saunders 表示:“波士顿动力公司与 NVIDIA 在推动机器人技术发展方面有着悠久的密切合作历史。我们非常高兴看到这项工作的成果正在加速整个行业的33发展。
据介绍,目前开发者现在可以加入 NVIDIA 人形机器人开发者计划,以访问 NVIDIA OSMO 和 lsaac Lab,并将很快能够访问 NVIDIA NIM 微服务。
写在最后:
人形机器人的发展正在不断进步,随着技术的提升,它们在上述领域的应用将变得更加广泛和深入。随着人工智能、机器学习和机器人技术的进一步发展,人形机器人的能力和应用范围将不断扩大。
正如NVIDIA黄仁勋所述,AI的下一波浪潮是机器人,其中最令人兴奋的发展之一是人形机器人。NVIDIA正在推进整个 NVIDIA机器人堆栈的发展,面向全球人形机器人开发者和公司开放访问,让他们能够使用符合其需求的平台、加速库和 AI 模型。