衡宇 发自 凹非寺黄药师
量子位 | 公众号 QbitAI
年末大礼包,稚晖君他又双叒来开源了!
百万真机数据集开源神气AgiBot World,亦然全球首个基于全域的确场景、万能硬件平台、全程质料把控的大范围机器东谈主数据集。
该神气由稚晖君具身智能创业神气智元机器东谈主,联袂上海AI Lab、国度地点共建东谈主形机器东谈主改进中心以及上海库帕想都集发布。
GitHub和抱抱脸上照旧不错自取了(本文文末附纵贯车)~

提及来,此前在该范围在全球内,不是莫得玩家作念过大范围的数据集:
比如谷歌DeepMind曾构建过Open X-Embodiment数据集,数据整合自22种不同实质的机器东谈主。
但其中大部分数据衰退长入圭臬化的集结经由,且许多用于数据集结的机器东谈主构型照旧落伍,数据质料时事狼藉不都——这就可能在机器东谈主计谋学习过程中带来反作用。

△谷歌DeepMind的Open X-Embodiment
又比如此坦福、UC伯克利、谷歌等构建的DROID数据集,涵盖了相对丰富的场景与妙技,天然尽可能终了法度化的数据集结经由。
但作家团队我方在后续盘考中指出,DROID存在精深低质料数据,反而让机器东谈主越学越迷濛。
2024年以来,具身智能备受谛视,行业玩家纷繁露馅,好多初创公司都基于自集结的大范围高质料双臂机器东谈主数据慎重的模子展现出了整理、分拣、洗衣等奉行复杂当作的智商。
这天然进一步印证了高质料数据在刻下具身智能范围盘考阶段的紧迫性,但这类数据集一般仅作私用。

据先容,比拟于Open X-Embodiment数据集,这次开源的AgiBot World长程数据范围跳动10倍,场景范围掩盖面扩大100倍,数据质料从现实室级高涨到工业级圭臬。
所有这个词来望望,这个数据集包含了些什么——
日常生存中千般化任务,可多机器东谈主互助官方府上自大,AgiBot World数据集收录了80余种日常生存中的千般化妙技。
从抓取、甩掉、推、拉等基础操作,到搅动、折叠、熨烫等缜密长程、双臂协同复杂交互,简直涵盖了日常生存所需的绝大多数当作需求。
在线影院jjj85
底下举几个栗子~
毫米级缜密收尾。
演示场景为插内存条。需要如神经纤维般灵敏的终局触觉传感器助力机器东谈主精确对接,稍有失慎可能导致莳植损坏。

繁琐长经由家务整理。
该任务下演示场景1为整理洗碗机。
画面中,勺筷碗盘层层堆叠在洗碗池里。在这条数据中,机器东谈主将错杂的餐具逐个整理到洗碗机相应卡槽中。

该任务下演示场景2为挂式熨烫衣物。
机器东谈主通过双手互助,一只手收拢衬衫的一角,另一只手收尾挂烫机与衣物的距离,熨烫衣物褶皱。

搭建物体搬运。
搬运大件物体这项任务,现在对单机器东谈主来说是个老浩劫。
数据聚首集结的是双机器东谈主互助,分管分量的同期,通过及时调理位置与角度,确保物体搬运过程中的褂讪安全。

尽可能掩盖日常坐褥、生存全域场景
团队先容,AgiBot World是从智元机器东谈主自建的大范围数据集结工场与应用现实基地中集结的,集结空间总面积稀奇4000普通米,包含3000多种的确物品。

为了尽可能掩盖机器东谈主在坐褥、生存中的典型应用需求,为机器东谈主提供高度的确的坐褥生存环境,集结环境包含稀奇100种的确场景、3000多种物品。
其中,80%的任务为长程任务,时长聚首在60s-150s之间,且涵盖多个原子妙技,是DROID和OpenX-Embodiment职责的5倍。

值得一提的是,按照日常生存的确需求,团队主要复刻了5个中枢场景,远隔是:
家居(40%)、餐饮(20%)、工业(20%)、商超(10%)和办公(10%)。
主打的等于通过多场景的高度复原与任务野心,为机器东谈主研发和测试构建一个粗略终了具身智能的必要条目。

当先,家居场景。
主要再现的确住宅布局,包括卧室、客厅、厨房、卫生间等中枢空间。有助于慎重机器东谈主家务清洁、物品整理和厨房任务等。
在客厅,机器东谈主不错精确收尾机械臂抓取花材,精笃定位花瓶的插孔,将花朵按推断插入顺应位置。

也不错使用清扫器用对大地进行全面清洁,包括碎片、灰尘和液体等。

还不错算帐家居名义的灰尘和污垢,精确收尾掸子或软布进行擦抹,幸免划伤名义。

让咱们把视野从客厅调节到厨房。
在厨房,机器东谈主不错说明食材种类和沙拉配方,完成切割、夹杂和装盘操作,也不错收尾清洁器用对瓶表里进行刷洗,去除污渍。

如若再把场景切换到卫生间,机器东谈主不错精确收尾机械臂使用刷子清洁卫生间马桶。

其次,餐饮场景。
主要终了智能就业体验,模拟前厅、后厨与用餐区域,包括点餐台、备餐区、餐桌等。有助于慎重机器东谈主终了餐厅就业(点餐、上菜、算帐餐桌)、食材传递、后厨互助等。
再者,工业场景。
主要模拟分拣与物流自动化,复刻工业仓库与坐褥线,包括分拣系统、打包莳植、传输带等。有助于慎重机器东谈主终了物料分拣、包装打包、物流搬运等。
在工场,机器东谈主在活水线上欺诈机械臂精确收尾将物品放入指定的包装盒中,终了物品自动打包。

还有商超场景。
这一场景下,主要高度复原超市货架布局与收银区野心,包含生鲜、日用、冷冻等多个品类区域。有助于慎重机器东谈主模拟物品上架、货色盘货、顾主率领、无东谈主结算等。
在超市,机器东谈主不错精确收尾扫码枪对待结算物品进行扫描和匡助宾客装袋。

集结实质过硬+严控数据质料
上头所提到的AgiBot World的所少见据,都是由底下这款机器东谈主集结的:

它具有以下几个特质:
360°感知:8个录像头环绕式布局,及时全意见感知周围环境的动态变化。灵敏操作:可配备具有6个主动解放度的灵敏手,保险当作精确且纯真,完成多种复杂操作。终局缜密感知:标配终局六维力传感器,并可配备高精度视触觉传感器,粗略感知力的狭窄变化,作念到“拿合手有度”。高解放度:全身最高32个解放度,支吾洗衣、作念饭、分拣、搬运等复杂任务。此外,由于AgiBot World的超大范围的确数据性格,团队通过专科培训、多级质料把控、全程东谈主工在环,以确保严格缜密化收余数据质料。
在职务野心设施,AgiBot World从野心初稿到野心迭代经由,均邀请了学术、工业、消耗者来进行多视角任务把关。
在数据集结设施,由解决体系下的专科解决图那对来保险集结员培训和集结质料把控。
在审核标注设施,当先会经过端云两侧,严格筛选集结的数据,自动剔除不顺应要求的数据。
此外专科审核员会东谈主工对全量数据进行逐帧审核,确保每一个当作都顺应任务圭臬,并对关键帧和数据性格进行多维度标注。
在算法考据设施,通过东谈主工审核的数据,还会由AgiBot World团队进一步通过算法进行考据。
关于未能通过考据的数据,会从头野心任务进行数据补采,确保数据可用性。

One More Thing
这次开源AgiBot World数据集,是稚晖君在三个月内的第三次开源举动。
第一次是9月底,开源了专为具身智能打造的轻量化、高性能通讯框架AimRT。
上一次是10月24日(没错等于踩点1024),智元东谈主形机器东谈主灵犀X1全套府上全球开源,包括野心图纸和代码。

至于下一步——
量子位得来的音信是,开源,开源,如故开源(莫不是稚晖君想作念源神)。
内幕音信一并放在这里,人人就等着他逐渐逐渐逐渐填坑吧,果然(古道脸.jpg)。
百万真机全量数据将无间开源;千万仿真数据同步推送,援手更泛化和更通用的大模子慎重;发布具身基座大模子,援手模子微调,赋能千行百业;发布全套器用链,终了集结、慎重和评测齐备闭环;举办一系列AgiBot World Challenge。
GitHub贯穿:
https://github.com/OpenDriveLab/AgiBot-World
抱抱脸贯穿:
https://huggingface.co/agibot-world
神气主页:
https://agibot-world.com/
— 完 —
量子位 QbitAI · 头条号签约
柔软咱们黄药师,第一技巧获知前沿科技动态