近日,靈初智能發(fā)布首個(gè)基于強(qiáng)化學(xué)習(xí)(RL)的端到端具身模型Psi R0。該模型支持雙靈巧手協(xié)同進(jìn)行復(fù)雜操作,將多個(gè)技能串聯(lián)混訓(xùn),生成具有推理能力的智能體,從而完成并閉環(huán)長(zhǎng)程靈巧操作任務(wù)。并且,Psi R0還可以實(shí)現(xiàn)跨物品、跨場(chǎng)景級(jí)別的泛化。
真實(shí)世界中,人類生活近乎100%的場(chǎng)景涉及抓握、轉(zhuǎn)動(dòng)、捏取、觸摸等操作,而其中超過 90% 的操作屬于多技能融合的長(zhǎng)程任務(wù)。然而在當(dāng)下具身業(yè)界,多局限于Pick and Place操作的泛化,一旦任務(wù)復(fù)雜化、長(zhǎng)程化,泛化性和成功率則大大降低,無法兼顧——這也是具身智能只能存在于demo,遲遲無法在真實(shí)場(chǎng)景中落地的核心原因!機(jī)器人如何突破Pick and Place、脫離遙操作,擁有自主完成長(zhǎng)程靈巧操作的能力,實(shí)現(xiàn)真正類人的場(chǎng)景級(jí)任務(wù)閉環(huán),仍是具身智能亟待攻克的難題。
RL是長(zhǎng)程靈巧操作實(shí)現(xiàn)任務(wù)閉環(huán)的唯一解
在真實(shí)世界中,機(jī)器人解決長(zhǎng)程任務(wù)必須通過Learning-based模式,目前主流技術(shù)路徑有兩種:模仿學(xué)習(xí)(IL)和強(qiáng)化學(xué)習(xí)(RL)。
純模仿學(xué)習(xí)的泛化能力受限于示范行為的多樣性和質(zhì)量。加之長(zhǎng)程任務(wù)步驟較多,更容易出現(xiàn)分布漂移問題,使得 IL實(shí)現(xiàn)長(zhǎng)程任務(wù)的泛化性能較差,魯棒性也較弱。
基于RL的Psi R0 模型,使用海量仿真數(shù)據(jù)高效訓(xùn)練出雙手操作的智能體,并通過雙向訓(xùn)練框架串聯(lián)多技能,在業(yè)界率先完成開放環(huán)境中的長(zhǎng)程任務(wù),具備較強(qiáng)的泛化能力與較高的魯棒性。這一技能訓(xùn)練框架從物體時(shí)空軌跡抽象出關(guān)鍵信息以構(gòu)建通用目標(biāo)函數(shù),從而解決獎(jiǎng)勵(lì)函數(shù)難設(shè)計(jì)的問題。在后訓(xùn)練階段,通過少量高質(zhì)量真機(jī)數(shù)據(jù)對(duì)齊,進(jìn)一步提升長(zhǎng)程任務(wù)的成功率。除此之外,雙向訓(xùn)練框架中的轉(zhuǎn)移可行性函數(shù)發(fā)揮著重要作用,它能夠微調(diào)技能以提高串聯(lián)的成功率與泛化性,同時(shí)賦予模型自主切換技能的能力,使其在遭遇操作失敗時(shí)能夠迅速調(diào)整策略,確保高成功率。
Sequential Dexterity: Chaining Dexterous Policies for Long-Horizon Manipulation
Yuanpei Chen, Chen Wang* , Li Fei-Fei , C. Karen Liu
Psi R0 模型表現(xiàn)出的靈巧性、高成功率以及泛化性,充分展示了其大腦的任務(wù)拆解與規(guī)劃能力,以及小腦的靈巧操作、泛化和魯棒能力。這一模型的誕生,突破了當(dāng)前具身機(jī)器人在商業(yè)化應(yīng)用進(jìn)程中所面臨的核心技術(shù)瓶頸,為整個(gè)行業(yè)的未來發(fā)展開拓出一片全新且廣闊的天地,有望引領(lǐng)具身機(jī)器人邁向全新的發(fā)展階段。
從理論概念到有效落地,Psi R0解答了具身智能商業(yè)化的終極命題
長(zhǎng)程任務(wù)靈巧操作場(chǎng)景無處不在,從工廠產(chǎn)線組裝,到服務(wù)業(yè)的揀貨打包,到家居環(huán)境的清潔整理。
Psi R0模型的智能體展示了其強(qiáng)大的場(chǎng)景落地能力。以電商場(chǎng)景為例,商品打包是典型的長(zhǎng)程任務(wù)作業(yè),需對(duì)上萬件商品進(jìn)行抓取,掃碼,放置,塑料袋打結(jié)等多個(gè)操作。Psi R0能夠使用雙靈巧手流暢地完成這一系列動(dòng)作(此系列動(dòng)作在客戶現(xiàn)場(chǎng)可以取代一個(gè)完整工位),成為首個(gè)基于強(qiáng)化學(xué)習(xí)訓(xùn)練完成長(zhǎng)程靈巧操作任務(wù)的具身機(jī)器人。
視頻中,機(jī)器人系統(tǒng)接收到的指令僅僅是“將桌面的物體打包”,而這一看似簡(jiǎn)單的任務(wù)背后,是靈初智能極具創(chuàng)新性的端到端技術(shù)架構(gòu)在發(fā)揮作用。當(dāng)指令下達(dá)后,上層視覺語言模型(VLM)對(duì)桌上混亂擺放的商品進(jìn)行分析,編排出商品的操作順序,下層操作模型拆解出單個(gè)商品的子任務(wù),如抓取、放置、掃碼、打包等,智能體依次執(zhí)行。
抓取環(huán)節(jié),面對(duì)隨意擺放、形狀各異的商品,模型必須具備高度的泛化能力,才能成功完成商品的逐個(gè)抓取。視頻中展示的品客薯片,Psi R0 僅僅依靠 20 條真機(jī)數(shù)據(jù),模型就成功實(shí)現(xiàn)了99%+的成功抓取率。
掃碼環(huán)節(jié)更是考驗(yàn)機(jī)器人的靈巧操作水平,需要雙手高度精細(xì)地協(xié)調(diào)彼此相對(duì)位置,以確保掃碼槍與商品條碼能夠精準(zhǔn)對(duì)齊,任何細(xì)微偏差都可能導(dǎo)致掃碼失敗。此時(shí),RL訓(xùn)練策略為雙手雙臂構(gòu)成的高自由度復(fù)雜系統(tǒng)提供了可靠的實(shí)時(shí)閉環(huán)控制,保障掃碼動(dòng)作精準(zhǔn)流暢地完成。
打包環(huán)節(jié),需要雙手協(xié)調(diào)完成對(duì)塑料袋的靈巧操作。在動(dòng)態(tài)打包的過程中,塑料袋的形狀會(huì)隨動(dòng)作變化,需要實(shí)時(shí)調(diào)整操作。為了提升機(jī)器人對(duì)柔性物體的操作適應(yīng)能力,Psi R0在仿真環(huán)境中模擬多種柔性物體的操作場(chǎng)景,同時(shí)結(jié)合真機(jī)數(shù)據(jù)進(jìn)行微調(diào)優(yōu)化。甚至在被打斷、干擾的情況下,也能自適應(yīng)調(diào)整策略,重新進(jìn)行打包動(dòng)作。
靈初智能Psi R0模型是具身智能遞歸性成長(zhǎng)的第一步。具身智能將遵從從簡(jiǎn)單到復(fù)雜、從保護(hù)到協(xié)同的漸進(jìn)式演進(jìn)。在早期,小腦是與真實(shí)世界交互的物理基礎(chǔ),其設(shè)計(jì)需結(jié)合領(lǐng)域知識(shí),滿足環(huán)境中的約束條件,同時(shí)具備容錯(cuò)性,支持大腦學(xué)習(xí)與優(yōu)化。Psi R0模型發(fā)揮RL算法探索的優(yōu)勢(shì),支持小腦的快速迭代,生成支持長(zhǎng)程靈巧操作的智能體。通過靈巧操作轉(zhuǎn)動(dòng)數(shù)據(jù)飛輪,實(shí)現(xiàn)從小腦Action到大腦Cognition的閉環(huán)回饋,驅(qū)動(dòng)大腦認(rèn)知能力優(yōu)化,模型持續(xù)迭代,形成小腦協(xié)同+大腦優(yōu)化的具身智能“神經(jīng)回路”,使端到端模型完成從簡(jiǎn)單到復(fù)雜、從保護(hù)到協(xié)同的漸進(jìn)式演進(jìn)。
免責(zé)聲明:市場(chǎng)有風(fēng)險(xiǎn),選擇需謹(jǐn)慎!此文僅供參考,不作買賣依據(jù)。
-
1怎么打開電腦路由器設(shè)置?初次設(shè)置無線路由器方法是什么?
-
2路由器如何設(shè)置提升網(wǎng)速?學(xué)校寢室路由器無線怎么設(shè)置的?
-
3電腦沒連路由器卻能進(jìn)入路由器界面?電腦無法進(jìn)入路由器?
-
4把電腦變成無線路由器怎么弄?臺(tái)式電腦如何變成無線路由器?
-
5重新啟用U盤的技巧有什么?U盤提速的技巧有哪些?
-
6如何安全的使用U盤?U盤日常使用的技巧有哪些?
-
7曲面顯示器怎么選擇?曲面顯示器和平面顯示器的區(qū)別有什么?
-
8安卓設(shè)備型號(hào)和名稱可以改嗎?安卓手機(jī)如何修改手機(jī)IMEI串號(hào)?
-
9地址和域名是什么關(guān)系?互聯(lián)網(wǎng)域名是商標(biāo)的一個(gè)組成部分對(duì)錯(cuò)?
-
10Linux獲取文件名稱和文件路徑并寫入txt?linux下exports文件是什么?