機器人是一種擁有無盡可能性的技術，尤其是當搭配了智能技術時。近段時間創(chuàng)造了許多變革性應用的大模型有望成為機器人的智慧大腦，幫助機器人感知和理解這個世界并制定決策和進行規(guī)劃。近日，CMU 的 Yonatan Bisk 和 Google DeepMind 的夏斐（Fei Xia）領導的一個聯(lián)合團隊發(fā)布了一篇綜述報告，介紹了基礎模型在機器人領域的應用和發(fā)展情況。

原文來源：機器之心

圖片來源：由無界 AI生成

開發(fā)能自主適應不同環(huán)境的機器人是人類一直以來的一個夢想，但這卻是一條漫長且充滿挑戰(zhàn)的道路。

之前，利用傳統(tǒng)深度學習方法的機器人感知系統(tǒng)通常需要大量有標注數(shù)據(jù)來訓練監(jiān)督學習模型，而如果通過眾包方式來標注大型數(shù)據(jù)集，成本又非常高。

此外，由于經(jīng)典監(jiān)督學習方法的泛化能力有限，為了將這些模型部署到具體的場景或任務，這些訓練得到的模型通常還需要精心設計的領域適應技術，而這又通常需要進一步的數(shù)據(jù)收集和標注步驟。類似地，經(jīng)典的機器人規(guī)劃和控制方法通常需要仔細地建模世界、智能體自身的動態(tài)和 / 或其它智能體的動態(tài)。這些模型通常針對各個具體環(huán)境或任務構建，而當情況有變時，就需要重新構建模型。這說明經(jīng)典模型的遷移性能也有限。

事實上，對于很多用例，構建有效模型的成本要么太高，要么完全無法辦到。盡管基于深度（強化）學習的運動規(guī)劃和控制方法有助于緩解這些問題，但它們?nèi)耘f會受到分布移位（distribution shift）和泛化能力降低的影響。

雖然在開發(fā)通用型機器人系統(tǒng)上正面臨諸多挑戰(zhàn)，但自然語言處理（NLP）和計算機視覺（CV）領域近來卻進展迅猛，其中包括用于 NLP 的大型語言模型（LLM）、用于高保真圖像生成的擴散模型、用于零樣本 / 少樣本生成等 CV 任務的能力強大的視覺模型和視覺語言模型。

所謂的「基礎模型（foundation model）」其實就是大型預訓練模型（LPTM）。它們具備強大的視覺和語言能力。近來這些模型也已經(jīng)在機器人領域得到應用，并有望賦予機器人系統(tǒng)開放世界感知、任務規(guī)劃甚至運動控制能力。除了將現(xiàn)有的視覺和 / 或語言基礎模型用于機器人領域，也有研究團隊正針對機器人任務開發(fā)基礎模型，比如用于操控的動作模型或用于導航的運動規(guī)劃模型。這些機器人基礎模型展現(xiàn)出了強大的泛化能力，能適應不同的任務甚至具身方案。

也有研究者直接將視覺 / 語言基礎模型用于機器人任務，這展現(xiàn)出了將不同機器人模塊融合成單一統(tǒng)一模型的可能性。

盡管視覺和語言基礎模型在機器人領域前景可期，全新的機器人基礎模型也正在開發(fā)中，但機器人領域仍有許多挑戰(zhàn)難以解決。

從實際部署角度看，模型往往是不可復現(xiàn)的，無法泛化到不同的機器人形態(tài)（多具身泛化）或難以準確理解環(huán)境中的哪些行為是可行的（或可接受的）。此外大多數(shù)研究使用的都是基于 Transformer 的架構，關注的重點是對物體和場景的語義感知、任務層面的規(guī)劃、控制。而機器人系統(tǒng)的其它部分則少有人研究，比如針對世界動態(tài)的基礎模型或可以執(zhí)行符號推理的基礎模型。這些都需要跨領域泛化能力。

最后，我們也需要更多大型真實世界數(shù)據(jù)以及支持多樣化機器人任務的高保真度模擬器。

這篇綜述論文總結了機器人領域使用的基礎模型，目標是理解基礎模型能以怎樣的方式幫助解決或緩解機器人領域的核心挑戰(zhàn)。

論文地址：https://arxiv.org/pdf/2312.08782.pdf

在這篇綜述中，研究者使用的「用于機器人的基礎模型（foundation models for robotics）」這一術語涵蓋兩個方面：(1) 用于機器人的現(xiàn)有的（主要）視覺和語言模型，主要是通過零樣本和上下文學習；(2) 使用機器人生成的數(shù)據(jù)專門開發(fā)和利用機器人基礎模型，以解決機器人任務。他們總結了用于機器人的基礎模型的相關論文中的方法，并對這些論文的實驗結果進行了元分析（meta-analysis）。

圖 1 展示了這篇綜述報告的主要組成部分。

圖 2 給出了這篇綜述的整體結構。

預備知識

為了幫助讀者更好地理解這篇綜述的內(nèi)容，該團隊首先給出了一節(jié)預備知識內(nèi)容。

他們首先將介紹機器人學的基礎知識以及當前最佳技術。這里主要聚焦于基礎模型時代之前機器人領域使用的方法。這里簡單說明一下，詳情參閱原論文。?

機器人的主要組件可分為感知、決策和規(guī)劃、動作生成三大部分。

該團隊將機器人感知分為被動感知、主動感知和狀態(tài)估計。

在機器人決策和規(guī)劃部分，研究者分經(jīng)典規(guī)劃方法和基于學習的規(guī)劃方法進行了介紹。

機器的動作生成也有經(jīng)典控制方法和基于學習的控制方法。

接下來該團隊又會介紹基礎模型并主要集中在 NLP 和 CV 領域，涉及的模型包括：LLM、VLM、視覺基礎模型、文本條件式圖像生成模型。

機器人領域面臨的挑戰(zhàn)

這一節(jié)總結了典型機器人系統(tǒng)的不同模塊所面臨的五大核心挑戰(zhàn)。圖 3 給出了這五大挑戰(zhàn)的分類情況。

泛化

機器人系統(tǒng)往往難以準確地感知和理解其環(huán)境。它們也沒有能力將在一個任務上的訓練成果泛化到另一個任務，這會進一步限制它們在真實世界中的實用性。此外，由于機器人硬件不同，將模型遷移用于不同形態(tài)的機器人也很困難。通過將基礎模型用于機器人，可以部分地解決泛化問題。

而在不同機器人形態(tài)上泛化這樣更進一步的問題還有待解答。

數(shù)據(jù)稀缺

為了開發(fā)出可靠的機器人模型，大規(guī)模的高質(zhì)量數(shù)據(jù)至關重要。人們已經(jīng)在努力嘗試從現(xiàn)實世界收集大規(guī)模數(shù)據(jù)集，包括自動價值、機器人操作軌跡等。并且從人類演示收集機器人數(shù)據(jù)的成本很高。而由于任務和環(huán)境的多樣性，在現(xiàn)實世界收集足夠且廣泛的數(shù)據(jù)的過程還會更加復雜。此外，在現(xiàn)實世界收集數(shù)據(jù)還會有安全方面的疑慮。

為了解決這些挑戰(zhàn)，許多研究工作都嘗試了在模擬環(huán)境中生成合成數(shù)據(jù)。這些模擬能提供真實感很強的虛擬世界，讓機器人可以在接近真實的場景中學習和使用自己的技能。但是，使用模擬環(huán)境也有局限性，尤其是在物體的多樣性方面，這使得所學到的技能難以直接用于真實世界情況。

另外，在現(xiàn)實世界中，大規(guī)模收集數(shù)據(jù)非常困難，而要收集到訓練基礎模型所使用的互聯(lián)網(wǎng)規(guī)模級的圖像 / 文本數(shù)據(jù)，那就更困難了。

一種頗具潛力的方法是協(xié)作式數(shù)據(jù)收集，即將不同實驗室環(huán)境和機器人類型的數(shù)據(jù)收集到一起，如圖 4a 所示。但是，該團隊深度研究了 Open-X Embodiment Dataset，發(fā)現(xiàn)在數(shù)據(jù)類型可用性方面還存在一些局限性。

模型和原語要求

經(jīng)典的規(guī)劃和控制方法通常需要精心設計的環(huán)境和機器人模型。之前的基于學習的方法（如模仿學習和強化學習）是以端到端的方式訓練策略，也就是直接根據(jù)感官輸入獲取控制輸出，這樣能避免構建和使用模型。這些方法能部分解決依賴明確模型的問題，但它們往往難以泛化用于不同的環(huán)境和任務。

這就引出了兩個問題：(1) 怎么學習能很好泛化的與模型無關的策略？(2) 怎么學習好的世界模型，以便應用經(jīng)典的基于模型的方法？

任務規(guī)范

為了得到通用型智能體，一大關鍵挑戰(zhàn)是理解任務規(guī)范并將其根植于機器人對世界的當前理解中。通常而言，這些任務規(guī)范由用戶提供，但用戶只能有限地理解機器人的認知和物理能力的局限性。這會帶來很多問題，不僅包括能為這些任務規(guī)范提供什么樣的最佳實踐，而且還有起草這些規(guī)范是否足夠自然和簡單。基于機器人對自身能力的理解，理解和解決任務規(guī)范中的模糊性也充滿挑戰(zhàn)。

不確定性和安全性

為了在現(xiàn)實世界中部署機器人，一大關鍵挑戰(zhàn)是處理環(huán)境和任務規(guī)范中固有的不確定性。根據(jù)來源的不同，不確定性可以分為認知不確定性（由缺乏知識導致不確定）和偶然不確定性（環(huán)境中固有的噪聲）。

不確定性量化（UQ）的成本可能會高得讓研究和應用難以為繼，也可能讓下游任務無法被最優(yōu)地解決。有鑒于基礎模型大規(guī)模過度參數(shù)化的性質(zhì)，為了在不犧牲模型泛化性能的同時實現(xiàn)可擴展性，提供能保留訓練方案同時又盡可能不改變底層架構的 UQ 方法至關重要。設計能提供對自身行為的可靠置信度估計，并反過來智能地請求清晰說明反饋的機器人仍然是一個尚未解決的挑戰(zhàn)。

近來雖有一些進展，但要確保機器人有能力學習經(jīng)驗，從而在全新環(huán)境中微調(diào)自己的策略并確保安全，這一點依然充滿挑戰(zhàn)。

當前研究方法概況

這一節(jié)總結了用于機器人的基礎模型的當前研究方法。該團隊將機器人領域使用的基礎模型分成了兩大類：用于機器人的基礎模型和機器人基礎模型（RFM）。

用于機器人的基礎模型主要是指以零樣本的方式將視覺和語言基礎模型用于機器人，也就是說無需額外的微調(diào)或訓練。機器人基礎模型則可能使用視覺 - 語言預訓練初始化來進行熱啟動和 / 或直接在機器人數(shù)據(jù)集上訓練模型。

圖 5 給出了分類詳情。

用于機器人的基礎模型

這一小節(jié)關注的是視覺和語言基礎模型在機器人領域的零樣本應用。這主要包括將 VLM 以零樣本方式部署到機器人感知應用中，將 LLM 的上下文學習能力用于任務層面和運動層面的規(guī)劃以及動作生成。圖 6 展示了一些代表性的研究工作。

機器人基礎模型（RFM）

隨著包含來自真實機器人的狀態(tài) - 動作對的機器人數(shù)據(jù)集的增長，機器人基礎模型（RFM）類別同樣變得越來越有可能成功。這些模型的特點是使用了機器人數(shù)據(jù)來訓練模型解決機器人任務。

這一小節(jié)將總結和討論不同類型的 RFM。首先是能在單一機器人模塊中執(zhí)行一類任務的 RFM，這也被稱為單目標機器人基礎模型。比如能生成控制機器人的低層級動作的 RFM 或可以生成更高層運動規(guī)劃的模型。

之后會介紹能在多個機器人模塊中執(zhí)行任務的 RFM，也就是能執(zhí)行感知、控制甚至非機器人任務的通用模型。

基礎模型能怎樣幫助解決機器人挑戰(zhàn)？

前面列出了機器人領域面臨的五大挑戰(zhàn)。這一小節(jié)將介紹基礎模型可以怎樣幫助解決這些挑戰(zhàn)。

所有與視覺信息相關的基礎模型（如 VFM、VLM 和 VGM）都可用于機器人的感知模塊。而 LLM 的功能更多樣，可用于規(guī)劃和控制。機器人基礎模型（RFM）通常用于規(guī)劃和動作生成模塊。表 1 總結了解決不同機器人挑戰(zhàn)的基礎模型。

從表中可以看到，所有基礎模型都擅長泛化各種機器人模塊的任務。LLM 尤其擅長任務規(guī)范。另一方面，RFM 擅長應對動態(tài)模型的挑戰(zhàn)，因為大多數(shù) RFM 都是無模型方法。對于機器人感知來說，泛化能力和模型的挑戰(zhàn)是相互耦合的，因為如果感知模型已經(jīng)具有很好的泛化能力，就不需要獲取更多數(shù)據(jù)來執(zhí)行領域適應或額外微調(diào)。

另外，在安全挑戰(zhàn)方面還缺乏研究，這會是一個重要的未來研究方向。

當前的實驗和評估概況

這一節(jié)總結了當前研究成果的數(shù)據(jù)集、基準和實驗。

數(shù)據(jù)集和基準

僅依靠從語言和視覺數(shù)據(jù)集學到的知識是存在局限的。正如一些研究成果表明的那樣，摩擦力和重量等一些概念無法僅通過這些模態(tài)輕松學習到。

因此，為了讓機器人智能體能更好地理解世界，研究社區(qū)不僅在適應來自語言和視覺領域的基礎模型，也在推進開發(fā)用于訓練和微調(diào)這些模型的大型多樣化多模態(tài)機器人數(shù)據(jù)集。

目前這些工作分為兩大方向：從現(xiàn)實世界收集數(shù)據(jù)以及從模擬世界收集數(shù)據(jù)再將其遷移到現(xiàn)實世界。每個方向都各有優(yōu)劣。其中從現(xiàn)實世界收集的數(shù)據(jù)集包括 RoboNet、Bridge Dataset V1、Bridge-V2、. Language-Table、RT-1 等。而常用的模擬器有 Habitat、AI2THOR、Mujoco、AirSim、Arrival Autonomous Racing Simulator、Issac Gym 等。

對當前方法的評估分析

該團隊的另一大貢獻是對本綜述報告中提到的論文中的實驗進行了元分析，這可以幫助作者理清以下問題：

1. 人們研究解決的是哪些任務？

2. 訓練模型使用了哪些數(shù)據(jù)集或模擬器？測試用的機器人平臺有哪些？

3. 研究社區(qū)使用了哪些基礎模型？解決任務的效果如何？

4. 這些方法中更常使用哪些基礎模型？

表 2-7 和圖 11 給出了分析結果。

該團隊從中總結出了一些關鍵趨勢：

• 研究社區(qū)對機器人操作任務的關注不平衡
• 泛化能力和穩(wěn)健性需要提升
• 對低層動作的探索很有限
• 控制頻率太低，無法部署在真實機器人中
• 缺乏統(tǒng)一的測試基準

討論和未來方向

該團隊總結了一些仍待解決的挑戰(zhàn)和值得討論的研究方向：

• 為機器人具身設定標準基礎（grounding）
• 安全和不確定性
• 端到端方法和模塊化方法是否無法兼容？
• 對具身的物理變化的適應能力
• 世界模型方法還是與模型無關的方法？
• 新型機器人平臺和多感官信息
• 持續(xù)學習
• 標準化和可復現(xiàn)能力