>> 華泰證券-工業(yè)專題研究-人形機(jī)器人再探討:訓(xùn)練數(shù)據(jù)的來源-231112
| 上傳日期: |
2023/11/12 |
大小: |
453KB |
| 格式: |
pdf 共4頁 |
來源: |
華泰證券 |
| 評(píng)級(jí): |
增持 |
作者: |
倪正洋 |
| 下載權(quán)限: |
此報(bào)告為加密報(bào)告 |
|
|
從真實(shí)數(shù)據(jù)到合成數(shù)據(jù),機(jī)器人預(yù)訓(xùn)練數(shù)據(jù)集迎來新突破 預(yù)訓(xùn)練數(shù)據(jù)集是影響大模型性能的核心要素,機(jī)器人大模型也不例外。由于機(jī)器人訓(xùn)練數(shù)據(jù)集對(duì)任務(wù)相關(guān)性和多樣性要求較高,收集真實(shí)數(shù)據(jù)昂貴且耗時(shí),目前最大的機(jī)器人數(shù)據(jù)集Open X-Embodiment僅包含100多萬條真實(shí)機(jī)器人軌跡數(shù)據(jù)。近期,MimicGen基于175個(gè)人工示范數(shù)據(jù),可以生成涵蓋18個(gè)任務(wù)、多種場(chǎng)景、任務(wù)對(duì)象和機(jī)械臂的5萬多個(gè)合成數(shù)據(jù),且與等量真實(shí)數(shù)據(jù)的訓(xùn)練效果相當(dāng);RoboGen可以無限生成任務(wù)、場(chǎng)景和訓(xùn)練數(shù)據(jù),實(shí)現(xiàn)機(jī)器人7x24小時(shí)全自動(dòng)技能學(xué)習(xí)。我們認(rèn)為,從真實(shí)數(shù)據(jù)到合成數(shù)據(jù),預(yù)訓(xùn)練數(shù)據(jù)集來源的豐富將會(huì)加速機(jī)器人大模型的發(fā)展。 多樣化的機(jī)器人訓(xùn)練數(shù)據(jù)集是機(jī)器人大模型泛化能力提升的基礎(chǔ) 經(jīng)過大量文本語料庫(kù)訓(xùn)練的大語言模型往往優(yōu)于僅在特定數(shù)據(jù)集上訓(xùn)練得到的模型,機(jī)器人大模型也是一樣。面對(duì)一項(xiàng)新任務(wù)時(shí),最初版本的機(jī)器人大模型RoboCat在經(jīng)過500次人工演示訓(xùn)練后,執(zhí)行成功率僅為36%;經(jīng)過自我生成的數(shù)據(jù)集訓(xùn)練后,其執(zhí)行成功率提升至74%。RT-1-X與RT-1架構(gòu)相同,經(jīng)過包含16多萬個(gè)任務(wù)的100多萬條機(jī)器人軌跡數(shù)據(jù)訓(xùn)練后,在特定任務(wù)上的平均性能較RT-1(經(jīng)過包含700多個(gè)任務(wù)的13萬條機(jī)器人軌跡訓(xùn)練)提升50%。由此可見,大量多樣化機(jī)器人訓(xùn)練數(shù)據(jù)對(duì)提升大模型性能至關(guān)重要。 大模型對(duì)數(shù)據(jù)集的任務(wù)相關(guān)性和多樣性要求高,真實(shí)數(shù)據(jù)昂貴耗時(shí) 相關(guān)性高的任務(wù)數(shù)據(jù)幫助大模型實(shí)現(xiàn)正遷移(加入新的機(jī)器人數(shù)據(jù)集后,模型泛化能力提高);豐富的任務(wù)種類可以增強(qiáng)大模型的通用性。在RT-1中,Google依靠自身強(qiáng)大的資金和科研實(shí)力,耗時(shí)17個(gè)月,僅收集到包含700多個(gè)任務(wù)(任務(wù)種類少)的13萬條機(jī)器人數(shù)據(jù),而且訓(xùn)練后得到的RT-1基本不具備泛化能力(任務(wù)相關(guān)性低)。目前最大的機(jī)器人數(shù)據(jù)集OpenX-Embodiment僅包含100多萬條真實(shí)機(jī)器人軌跡數(shù)據(jù)。因此,我們認(rèn)為僅依靠人工示范收集的真實(shí)數(shù)據(jù)難以滿足具身大模型的訓(xùn)練需求。 合成數(shù)據(jù)與等量真實(shí)數(shù)據(jù)的訓(xùn)練效果相當(dāng),合成任務(wù)數(shù)量可為無限個(gè) 在機(jī)器人合成數(shù)據(jù)最新進(jìn)展方面,MimicGen能夠基于175個(gè)人工示范數(shù)據(jù),生成涵蓋18個(gè)任務(wù)、多種場(chǎng)景、任務(wù)對(duì)象和機(jī)械臂的5萬多個(gè)合成數(shù)據(jù)。經(jīng)過合成數(shù)據(jù)的訓(xùn)練,機(jī)器人在長(zhǎng)期復(fù)雜任務(wù)和毫米級(jí)精度接觸任務(wù)中的執(zhí)行成功率顯著提高;等量的人工示范數(shù)據(jù)和合成數(shù)據(jù)對(duì)機(jī)器人的訓(xùn)練效果相當(dāng)。RoboGen將大語言模型和生成式模型中蘊(yùn)含的大規(guī)模知識(shí)與模擬世界中的物理信息相結(jié)合,可以自動(dòng)生成任務(wù)、場(chǎng)景和訓(xùn)練數(shù)據(jù),實(shí)現(xiàn)機(jī)器人7x24小時(shí)全自動(dòng)技能學(xué)習(xí);其中機(jī)器人可學(xué)習(xí)的任務(wù)數(shù)量是無限個(gè),包括剛性/關(guān)節(jié)操作和軟體操作等,還能夠?qū)W習(xí)長(zhǎng)期復(fù)雜任務(wù)。 風(fēng)險(xiǎn)提示:模型泛化能力不足,數(shù)據(jù)集訓(xùn)練結(jié)果不及預(yù)期,機(jī)器人通用性不及預(yù)期。
|
|