← 返回交互式导读页

具身智能 / 机器人 × Agent(LLM · GPT · Claude · Gemini)调研综述

截至 2026-10-23。面向机器人方向的研究者,重点是 2025–2026 年的工作。 配套交互页面:index.html(同目录,浏览器直接打开)。页面里有术语入门、技术栈图、时间线、图表,以及可检索的论文库。 arXiv 编号与标题都用 export.arxiv.org API 逐条核验过;产业信息优先引用官方博客,二手来源会注明。


0. 一页结论(TL;DR)

  1. 三次范式迁移。 - 2022–2023:LLM 当"高层大脑",负责选技能、写代码(SayCan、Code as Policies、VoxPoser),底层仍是传统控制或学习技能。 - 2023–2025:端到端 VLA 成为主线(RT-2 → OpenVLA → π0/π0.5 → Gemini Robotics → GR00T),同时出现 System 2/System 1 分层(Hi Robot、Helix、Gemini Robotics 1.5)。 - 2025–2026:进入"agentic robots / harness 工程"阶段。做法是把 Claude Code、Codex 这类编码 agent 的循环(工具调用、记忆、监控恢复、技能库、子 agent)整套搬到机器人上,VLA 退为 agent 可调用的一个工具。
  2. 2026 年最大的变化是"通用前沿模型直接上机器人"。 GPT-6 Astra(2026-09)、Claude Opus 5/5.5、Gemini 4 Argon(2026-10)在没有机器人专用训练的情况下,通过写代码、调用工具或直接输出数值动作,就能完成相当一部分操作和导航任务: - RoboDojo 42 个任务上,GPT-6 Astra 平均成功率 22.48%,超过全部 40 个公开策略; - 用 Claude Code(Opus 5)的 OpenRUA 在 CaP-Bench 上达到 99%。

但更难的通用基准仍然很低: - RobotWorld 84 个任务里,最强模型只完成 19%; - RoboQuest 上最好的 agent 只有 23%。 3. 短板一致,集中在三处。 - 实时性与精细接触:Anthropic 估计实时直接控制需要约 83Hz,而推理只有 0.2–0.4Hz; - 可靠的物理状态验证; - 成本:一次 30 秒的步态控制要调用 250 次模型、每次约 40 秒,RoboDojo 50 个实例消耗 6–11 亿 token。

结论是 LLM/agent 适合放在慢环(规划、编排、写代码、恢复),快环交给 VLA 和控制器。 4. "Harness 决定上限"已有大量证据。 同一个模型换一种接口,成功率可以差几十个点: - Show-Harness 把步长减半,零样本成功率从 60% 提到 82%; - 只加执行引擎,ASPIRE 在 LIBERO-Pro 上从 14% 提到 62%; - Physical Agency 让冻结的 VLA 在 LIBERO-PRO 上从 12.8% 提到 53.3%。

2026-10 发布的综述 Towards Agentic Robots(arXiv 2610.20442)把这一方向系统化为 Model / Data / Environment / Harness 四域。 5. 编码 agent 正在自动化机器人研发本身。 - Anthropic Project Fetch 第二阶段:Claude Opus 4.7 独立给机器狗编程,比最快的人类团队快约 19 倍; - ENPIRE:编码 agent 在真机上自动训练灵巧策略到 99%; - ASPIRE、SimEX、GaP、RATs:自己写技能、修技能、在仿真里练习。

反面证据同样重要:一项 123 轮的自改进实验发现,改进并不会自动累加,评估器和感知模块才是瓶颈。 6. 工业界的形态是"两层"。 一层是 ER/VLM 编排者,如 Gemini Robotics ER 2(Live API 流式编排、工具调用、多机协作);另一层是 VLA 或 WAM 执行者,如 π0.7、Gemini Robotics 2、GR00T N1.7/N2(基于 DreamZero 的世界-动作模型)、Helix 02(新增 1kHz 的 System 0)。 - 模型正在 API 化:Gemini Robotics-ER API、Pi API beta(2026-10-13)、Rho-alpha 早期访问。 - 接口在标准化:MCP / ROS MCP Server、OpenClaw/ROSClaw、Anthropic 的 Model Hardware Standard(2026-08)。 7. 安全是真问题。 - RoboPAIR 证明 LLM 控制的机器人可以被越狱; - 编码 agent 会撞上明令禁止触碰的障碍物(SafeHarness); - 不同模型提出越界动作的比率最多相差 4.8 倍(ROSClaw)。

共识是安全闸门放在模型外部:白名单、限速、时序逻辑检查、人工确认。


1. 先对齐概念:机器人研究者需要知道的 Agent 知识

1.1 一句话定义

Agent = 模型(LLM/VLM)+ 循环(观察→思考→调用工具→看结果→再决定)+ 工具 + 记忆 + 外壳(harness)。 如果把 VLA 看作"会看、会动的策略网络",那 agent 就是任务层的闭环控制器。它的"动作"是函数调用和程序,"传感器"是工具返回值和图像,"控制周期"以秒计。

1.2 术语对照表

Agent 术语 含义 机器人里的类比 例子
LLM / VLM / MLLM 能读文本(和图像)的通用推理模型 读过所有教科书和说明书、但没有身体的工程师 GPT-6、Claude Opus 5.5、Gemini 4
Agent loop 观察→推理→行动→看反馈的循环(ReAct) 任务层的 sense-plan-act 闭环 Claude Code、Codex CLI、OpenClaw
Tool / Function calling 模型输出结构化调用(函数名 + 参数),由外部执行并返回结果 ROS service / action 调用 detect("cup")、move_to(pose)
Harness(外壳/脚手架) 包在模型外面的软件,决定模型能看到什么、能调用什么、怎样检查结果、怎样复用经验 机器人软件栈:驱动、状态机、监控、日志 Thea、ETA、RoboClaw、OpenRUA
Context window 模型一次能"看到"的全部输入 工作内存;放不下就要压缩或检索 长任务需要摘要和记忆
Memory 跨步骤、跨任务保存的信息 地图、语义地图、场景图、失败日志 ConceptGraphs、MessyMem、HiMe
Skills / Skill library 可复用的程序或说明文档 运动基元库 / 行为库 Voyager、ASPIRE、Uni-Skill
Code as Policy 由模型写程序组合感知与控制 API,程序本身就是策略 工程师写的任务脚本 Code as Policies、CaP-X
Coding agent 能在终端里读写代码、运行、测试、迭代的 agent 自动化的机器人软件工程师 / 研究助理 Claude Code、Codex
MCP(Model Context Protocol) 连接模型与外部工具/数据的开放协议 类似 rosbridge 或驱动接口标准 ROS MCP Server、RoboNeuron、MHS
Reflection / Recovery 失败后诊断原因、修改计划 故障检测、隔离与恢复(FDIR) Inner Monologue、REFLECT、DoReMi
In-context learning 不更新权重,只靠提示里的示范学会新任务 看几次示范当场调整,不重新训练 RoboICL、GPT-Policy
System 2 / 1 / 0 慢思考规划 / 快速视觉运动策略 / 解析控制器 任务规划器 / 学习策略 / IK·MPC·WBC Helix 02、GR00T、Gemini Robotics 1.5
VLA 把 VLM 微调成直接输出动作的策略 语言条件的端到端视觉运动策略 RT-2、OpenVLA、π0.5
World model / WAM 预测未来观测(以及动作)的模型 可学习的动力学模型 / 神经仿真器 Genie 3、Cosmos、DreamZero
Subagent / Multi-agent 主 agent 分派任务给子 agent,或多个 agent 协作 分布式架构、多机器人协同 RoCo、EMOS、EMERGE-Policy
Post-training(SFT/RL) 用监督微调或强化学习提升模型自身的 agent 能力 策略微调 AgenticRoboRL、CaP-RL
Guardrail / Safety gate 模型输出到达硬件前的检查 安全 PLC、速度限幅、急停 RoboGuard、ROSClaw、SafeGate

1.3 三类系统怎么选

维度 端到端 VLA Agent + 工具/技能(harness) 编码 agent(代码即策略 / 自动研发)
输出 连续动作块(10–50Hz,Helix S1 为 200Hz) 工具/技能调用(秒级) 程序、训练代码、配置
能力来源 机器人演示 + VLM 预训练 前沿模型的常识推理 + 现成技能 前沿模型的编程能力 + 执行反馈
新任务适配 采数据、微调 改提示、加工具、写技能 让 agent 写或改代码,少量试错
强项 接触丰富、灵巧、实时 开放语义、长时程、失败恢复、可解释 工程自动化,结果可复用、可验证
弱项 长时程、分布外指令、数据昂贵 延迟高、精细控制差、依赖接口质量 依赖感知和原语质量,评估器可能被"钻空子"
代表 π0.5/π0.7、Gemini Robotics 2、GR00T、Helix Gemini Robotics 1.5 / ER 2、RoboClaw、Thea、ETA CaP-X、OpenRUA、ENPIRE、ASPIRE

实际系统往往三者都有:VLA 作为 agent 的工具,程序作为上层,编码 agent 在离线阶段改进前两者。


2. 全景:八条技术路线

2.1 LLM/VLM 作为高层规划器(2022–)

2.2 代码即策略 → 编码智能体(2022–2026)

2.3 LLM 生成奖励、仿真与数据(2023–2026)

2.4 VLA 与机器人基础模型(2023–2026)

2.5 分层编排:System 2 → System 1 → System 0(2024–2026)

2.6 Agentic Harness 与机器人 Agent OS(2025–2026)

借用 Towards Agentic Robots 的拆法,harness 有六个功能:

功能 解决什么 代表工作
编排 Orchestration 谁来执行下一步、参数怎么绑定、何时交还控制权 VoLo、EMOS(从 URDF 生成"机器人简历")、Physical Agency、ROSClaw、Thea、RoboHarness、HarnessWAM、VLAs-as-Tools
记忆 Memory 写什么、何时更新、检索什么 MessyMem、HiMe、Mimir、SafeMem、NavMCP、BATON、HoloAgent-0、MeCo
监控与恢复 执行前、中、后的检查与修复 DoReMi、Code-as-Monitor、REFLECT、AHA、LIBERO-RECOVER、PhyAgentOS、FLARE
技能 Skills 可复用行为如何进入、演化、退出 Voyager、DROC、Uni-Skill、ASPIRE、RATs、RoboRSI、SkillOpt、Zetta
基础设施 接口、工具链、策略服务、运行时闸门 ROS MCP Server、RoboNeuron(MCP↔ROS 2)、ETP(100+ 工具)、openpi 远程推理、LeRobot、RTC/VLASH(异步执行)、ROSA/Robion(舰队推理)
分层系统 规划器、学习策略、解析控制之间的权限划分 Helix、GR00T、Hi Robot、Gemini Robotics 1.5、Harness VLA

"机器人 Agent OS"与开源运行时: - OpenClaw 生态:ROSClaw、RoboClaw、PHILIA,以及 Intel 的 OpenClaw + AgenticROS 示例; - ETA/OpenETA(可作为 Codex 插件)、Thea("场景图即上下文""评估即退出码"); - PhyAgentOS、ABot-AgentOS、RoboOS、Show-Harness、Guava(把 harness 能力蒸馏到 4B 模型)、Robo-Harness K1(感知即工具)。

接口标准化: - ROS MCP Server(2025-09 开源):机器人端加一个 rosbridge,Claude Code / Codex / Gemini CLI 就能发现并调用 topic、service、action; - Anthropic 的 Model Hardware Standard(2026-08,研究预览):读/写命令 + 安全参数参考文件,经 MCP/CLI/API 控制机械臂、显微镜等设备,对其他模型同样开放; - OpenAI 的 Decisions API(2026-10,gpt-6-luna)这类"决策模型"开始被用作 harness 里的快速决策层:代码给出合法候选,模型带概率挑一个。

2.7 编码智能体自动化机器人研发与自我改进(2026)

2.8 通用前沿模型直接当机器人策略(2026 下半年)

研究 设置 结果
Claude plays robotics(Anthropic,2026-07) 12 个模型 × 4 种接口(扭矩直控 / 写控制器 / 训 RL / 监督 VLA) 越高层的接口提升越稳定;LIBERO 直接操控 0–5.5%;单用 MolmoAct 比任何"LLM 监督 MolmoAct"都强;G1 一次也没站起来
Galbot GPT-as-Policy(2609.38537) 6 个领域 导航 RxR 92%、HM3D 82%;与 π0.5 混合控制 RoboDojo 48%;步态 0/5;HumanoidBench 30 个任务中 13 个超过基线
An Unexpected Robot Policy(2609.24170) RoboDojo 42 个任务 Astra 22.48%(第 1,超过全部 40 个公开策略),GPT-5.5 0.88%,DeepSeek-Flash 1.92%
GPT-6 as a Beginning(2610.28259) 5 个操作基准 RoboDojo 26.92%、RoboTwin 2.0 76.0%、LIBERO-GeoMotion 11.1%
LIBERO-10 frontier(2610.30051) 6 个前沿模型 × 3 档推理 Astra 44%、Gemini-4 Argon 43%
RobotWorld(2610.10409) 84 个任务 / 5 个领域 Astra 19.0%、Opus 5.5 15.5%、Kimi K3 2.4%、DeepSeek V4.1 Flash 1.2%、Gemini 3.8 Flash 1.2%;63 个任务无人完成
RoboQuest(2610.10388) 需主动获取信息的移动操作 最好 23%;微调 π0.5 几乎为 0;失败主因是"太早停止探索"
OpenRUA(2610.02459) Claude Code(Opus 5)+ ROS 2 终端 CaP-Bench 99.0%、LIBERO-PRO 87.0%
SenseNova(2610.22471) 12 个基准 + 8 种真机配置 具身能力"基本具备",实用具身智能"尚未"
HomeBody(Stanford/Caltech) Astra 直接调用 5 个技能驱动 Unitree G1 能在陌生厨房整理取物;延迟、舵机过热、算力成本是瓶颈;未公布成功率
Gemini 4 Argon for Robotics(2026-10-13) 物理推理 + 写代码 ERQA 87%;视频/草图→MuJoCo 孪生;仿真数据把真机成功率 56%→75%

3. 时间线(精选)

时间 事件
2022-04 SayCan、Socratic Models
2022-07 Inner Monologue、LM-Nav
2022-09 Code as Policies、ProgPrompt
2022-12 RT-1、LLM-Planner
2023-02 ChatGPT for Robotics(Microsoft)
2023-03 PaLM-E
2023-05 Voyager(Minecraft,代码技能库)
2023-07 RT-2(VLA)、VoxPoser、RoCo、KnowNo
2023-10 Eureka、Open X-Embodiment、GenSim
2023-11 RoboGen
2024-01 AutoRT、OK-Robot
2024-05/06 Octo、OpenVLA
2024-10 π0、RoboPAIR(越狱 LLM 机器人)、Embodied Agent Interface
2025-02 Figure 结束与 OpenAI 合作并发布 Helix;Hi Robot;EmbodiedBench
2025-03 Gemini Robotics + ER、GR00T N1、ASIMOV
2025-04 π0.5
2025-06 Gemini Robotics On-Device、SmolVLA、V-JEPA 2
2025-08 Genie 3
2025-09 ROS MCP Server 开源;Gemini Robotics 1.5 / ER 1.5(agentic 编排)
2025-10 Butter-Bench、LIBERO-PRO
2025-11 Anthropic Project Fetch;π*0.6(RECAP);GEN-0;SIMA 2
2026-01 Helix 02;Microsoft Rho-alpha;NVIDIA Alpamayo;Skild AI 融资约 14 亿美元
2026-02 DreamZero(世界-动作模型)
2026-03 CaP-X、RoboClaw、ROSClaw;GTC:GR00T N1.7 / N2 预览、Cosmos 3;PI 的 MEM 与 RL Token
2026-04 π0.7;Gemini Robotics-ER 1.6;GEN-1;AgiBot GO-2
2026-05/06 OpenAI 成立机器人部门;Project Fetch 第二阶段;RHO;ENPIRE;Hi-VLA 设计研究
2026-07 Claude plays robotics;ASPIRE;GaP;Physical Agency;Gemini Robotics 2 / ER 2(7/30)
2026-08 Thea、ETA、AgenticRobotics loop;Anthropic MHS(8/27);DYNA-2;Skild S1
2026-09 GPT-6 Astra(9/3)引发"LLM 即策略"研究潮;HomeBody;SimEX;OpenAI 表态做人形
2026-10 Pi API beta、Gemini 4 Argon for Robotics(10/13);RobotWorld、RoboQuest、OpenRUA;综述 Towards Agentic Robots(10/14);AgenticRoboRL

4. 前沿实验室与公司专题

4.1 Anthropic × Claude

4.2 OpenAI × GPT

4.3 Google DeepMind × Gemini

4.4 NVIDIA

4.5 Physical Intelligence

4.6 其他


5. 基准:怎样评价"agent 上机器人"

基准 评什么 关键发现
Embodied Agent Interface(NeurIPS'24) LLM 具身决策四模块 细粒度诊断规划错误类型
EmbodiedBench(ICML'25) MLLM agent 高层 vs 低层任务 高层任务 Claude-3.5 约 64–68%;低层操作最好的 GPT-4o 仅 28.9%
ERQA(Gemini Robotics) 具身推理问答 Gemini 4 Argon 87%(Google 自家基准)
Butter-Bench(2025-10) LLM 当机器人"大脑" 最好 40%,人类 95%
CaP-Bench(CaP-X) 编码 agent 在不同抽象层 去掉人类抽象就掉分
LIBERO-PRO 扰动后的操作 VLA 记忆化;agent 方法的主战场
RoboArena 分布式真机成对评测 DreamZero 1750 Elo,π0.5 1622(2026-04)
BEHAVIOR Challenge 2025 50 个家务长时程任务 冠军 Q-score 0.26(基于 π0.5)
RoboDojo 仿真 + 真机统一 Astra 22.48% 排第 1
RobotWorld 5 个领域 84 个任务 最强 19%;63 个任务无人完成
RoboQuest 主动探索获取信息 最好 23%
Embodied Playground、LIBERO-Agent、EmbodiedSWE-Bench、Video2World、4DCodeBench 长时程、agent 原生、编码 agent、世界重建 2026-09/10 新出
ASIMOV / ASIMOV-2.0、AgentSafe、GuardianBench 语义与物理安全 据 ARC 转述:GPT-5、Gemini-2.5-Pro、Claude Opus 4.1 在 ASIMOV-2.0 的约束任务上违规率都在 30% 以上

评测上的共识(Towards Agentic Robots §8):任务成功率无法区分是 agent 的功劳还是执行器的功劳。应当固定执行器、观测和交互预算,报告 token、时间和人工协助,并且加入需要处理缺失信息、执行器不合适、动作失败的任务。


6. 安全


7. 给机器人研究者的上手路线

  1. 零改动试水(1 小时): - 机器人端:sudo apt install ros-<distro>-rosbridge-server,再 ros2 launch rosbridge_server rosbridge_websocket_launch.xml; - 本地:claude mcp add ros-mcp -- uvx ros-mcp --transport=stdio; - 然后让 Claude Code 先"只读"地探索 topic 和 service,描述机器人状态。
  2. 让编码 agent 当策略(1 天): - OpenRUA:pip install -U openrua → 在项目目录运行 openrua,先选仿真机器人; - CaP-X:git clone --recurse-submodules https://github.com/capgym/cap-x → uv sync,提供 39 个任务的 Gym 与基准。
  3. 把 VLA 当工具: - openpi 有 π0/π0.5 权重和远程推理接口;也可以用 LeRobot / SmolVLA、GR00T N1.6、MolmoAct2; - 用 VLM 或 ER 模型(如 gemini-robotics-er-2-preview)编排,包装成 vla_act(instruction, budget) 工具,并返回进度和失败类型。
  4. 自动化研发闭环:参考 ENPIRE、ASPIRE、SimEX、HARBOR,关键是可自动复位、可自动判定成功、可回放的环境。
  5. 数据与仿真:SceneSmith、ARSTAG、Agentic Real2Sim、RoboGen;或者让 Gemini 4 Argon、GPT-6 Astra 这类模型写 MuJoCo/Isaac 场景。

延迟预算参考:

层 典型频率
前沿模型一次调用 秒级到数十秒
ER 2 流式编排 低延迟,但仍远低于控制频率
VLA 10–50Hz(GR00T N1 为 120Hz 动作块,Helix S1 为 200Hz)
全身控制 200–1000Hz(Helix 02 S0 为 1kHz)

原则:LLM 不进快环。


8. 开放问题与趋势

  1. 归因与公平评测:agent 的贡献和执行器的贡献如何分离?
  2. 何时调用大模型:事件触发(HarnessWAM、VLAs-as-Tools)与固定频率之间的权衡;端云协同。
  3. 物理世界里的"退出码":怎样可靠判断"做完了""失败了""为什么失败"(Thea、LIBERO-RECOVER)。
  4. 自我改进的可累加性:评估器、感知关系理解、技能链前端偏置(123 轮研究)。
  5. 精细接触与动力学:前沿模型的系统性短板,需要 VLA/WAM 或触觉补位(GPT-6-Astra Understands Touch 显示触觉上下文有帮助)。
  6. 跨本体泛化:agent 要先"读懂"陌生机器人的能力(EMOS 的机器人简历、OpenRUA 的 openrua connect)。
  7. 权重 vs 技能:VLA 把能力烤进权重,agent 把能力写成代码。一个可能的终局是:VLA 作为可调用的底层,程序作为上层,agent 离线进化二者,再把进化出的经验蒸馏回权重(EmbodiedSWE-Gen、RACaP、HarnessPAI、InSight)。
  8. 安全、权限与治理:MHS 等硬件标准、欧盟自 2027 年起对机械中 AI 安全功能的监管、RSP 类框架如何覆盖物理能力。

9. 推荐阅读路径(新手)

  1. 经典三篇:SayCan → Code as Policies → VoxPoser
  2. VLA 主线:RT-2 → OpenVLA → π0.5 → π0.7
  3. Agentic VLA 栈:Gemini Robotics 1.5 技术报告 + ER 2 博客
  4. 编码 agent:CaP-X → OpenRUA → ASPIRE / ENPIRE
  5. 综述:Towards Agentic Robots(2610.20442)+ Survey on Multimodal Embodied Agents(NUS,engrXiv)+ Weights or Skills?(2608.01851)
  6. 前沿模型即策略:Claude plays robotics → Galbot GPT-6 Astra 评测 → RobotWorld
  7. 安全:RoboPAIR → RoboGuard → ASIMOV-2.0 → SafeHarness

10. 方法与可信度说明

主要网页来源


附录 A:论文与资源总表(315 条,按主类别分组,组内按时间倒序)

arXiv 条目的标题与日期由 export.arxiv.org API 校验;★ 为入门推荐。

LLM 规划器(16)

日期 工作 机构 一句话
2024-11 RoboMatrix arXiv:2412.00171 以技能为中心的分层框架,用于开放世界的任务规划与执行
2024-04 DELTA arXiv:2404.03275 场景图 + LLM 分解长时程任务,提升规划效率
2023-09 ConceptGraphs arXiv:2309.16650 Toronto/MIT 等 开放词汇 3D 场景图,作为 LLM 规划的结构化记忆
2023-07 SayPlan arXiv:2307.06135 QUT 用 3D 场景图做 grounding,把 LLM 规划扩展到多楼层、多房间
2023-07 ★ KnowNo arXiv:2307.01928 Princeton/Google 用共形预测校准 LLM 规划的不确定性,不确定时主动向人求助
2023-06 Statler arXiv:2306.17840 TTIC 让 LLM 显式维护世界状态,改善长时程推理
2023-06 AutoTAMP arXiv:2306.06531 MIT LLM 把自然语言翻译成时序逻辑并做检查,再交给 TAMP
2023-05 EmbodiedGPT arXiv:2305.15021 HKU 等 用具身思维链预训练的视觉语言模型
2023-05 TidyBot arXiv:2305.05658 Princeton/Stanford LLM 从少量例子归纳用户偏好,实现个性化整理
2023-04 LLM+P arXiv:2304.11477 UT Austin LLM 把任务翻译成 PDDL,再交给经典规划器求解
2023-03 Text2Motion arXiv:2303.12153 Stanford 把语言指令变成几何上可行的长时程技能序列
2023-03 PaLM-E arXiv:2303.03378 Google 562B 具身多模态语言模型:图像/状态与文本交错输入,直接输出规划
2022-12 LLM-Planner arXiv:2212.04088 Ohio State 少样本 grounded 高层规划,执行受阻时根据环境重规划
2022-07 ★ Inner Monologue arXiv:2207.05608 Google 把成功检测、场景描述、人类反馈作为文本回灌 LLM,形成闭环规划
2022-04 ★ SayCan arXiv:2204.01691 Google LLM 给技能打"是否有用"分,价值函数给"是否可行"分,两者相乘选出下一步预训练技能
2022-04 Socratic Models arXiv:2204.00598 Google 多个基础模型以自然语言为接口零样本组合推理

代码即策略(24)

日期 工作 机构 一句话
2026-10 ★ OpenRUA arXiv:2610.02459 UCL/CMU "零抽象" harness:Claude Code(Opus 5)只拿到 ROS 2 终端和文档,CaP-Bench 99%、LIBERO-PRO 87%
2026-09 RAPID arXiv:2609.30249 MIT/NUS 从单次人类视觉演示自动生成、验证、精炼机器人程序
2026-09 RACaP arXiv:2609.29394 把"写代码"挪到进化阶段,部署时用 ReAct 调用冻结的类型化 Policy API,降低延迟
2026-09 EmbodiedSWE arXiv:2609.27308 编码 agent 解决长达半小时的灵巧长时程任务,再把解扩增成 VLA 训练数据,在真机上验证
2026-09 Local Coding Agent arXiv:2609.26499 本地开源 VLM(Qwen3.8-27B)在编码 agent 框架里驱动 UR3e,一次泛化到任务新变体
2026-09 Closed-Loop Robot Software arXiv:2609.19906 把编码 agent 优化过的闭环代码策略归档,作为新任务可迁移的经验
2026-09 ★ Agent as Policy (AGP) arXiv:2609.12541 Notre Dame/UCSD Codex CLI + GPT-6 Astra 直接驱动真实 YAM 机械臂:看图、写程序、发运动指令、按物理结果修正;8 种配置中 7 种成功率 ≥80%
2026-07 MEMENTO arXiv:2607.22832 记忆引导的模因式(memetic)代码策略进化
2026-06 RHO arXiv:2606.16458 UC Berkeley 等 训练阶段让编码 agent 搜索多文件的"仓库即策略";LIBERO-PRO 45%(π0.5 为 12.83%,OpenVLA 为 0%)
2026-03 ★ CaP-X arXiv:2603.22435 NVIDIA/UC Berkeley/Stanford/CMU 编码 agent 操控框架与基准:人类给的抽象越少越难;多轮交互、视觉差分、技能合成与 RL 可以补回来(ICML'26)
2026-03 Act-Observe-Rewrite arXiv:2603.04466 多模态编码 agent 在两次尝试之间重写完整的底层控制器代码,无需梯度更新
2025-09 LYRA arXiv:2509.18597 人类引导的终身代码生成,学到超长时程操作技能
2024-09 ReKep arXiv:2409.01652 Stanford VLM 写"关系关键点约束"函数,求解器约 10Hz 实时优化轨迹
2024-06 LRLL arXiv:2406.18746 Groningen 终身机器人技能库学习,自举可组合、可泛化的技能
2024-06 RoboCoder arXiv:2406.03757 CUHK 基础技能库 + 评估器反馈,逐步生成更复杂任务的代码
2024-03 MOKA arXiv:2403.03174 UC Berkeley 标记式视觉提示:VLM 在图上选关键点/路径点,转为动作
2024-02 RoboCodeX arXiv:2402.16117 HKU/Shanghai AI Lab 多模态树状代码生成合成机器人行为,并微调代码模型
2023-11 DROC arXiv:2311.10678 Stanford 从人的语言纠正中蒸馏并检索可泛化知识,同样的纠正不用说第二次
2023-10 OLAF arXiv:2310.17555 UT Austin 把口头纠正转成修正后的动作标签,交互式学习
2023-07 ★ VoxPoser arXiv:2307.05973 Stanford LLM 写代码调用 VLM,组合出 3D 价值图,交给运动规划执行
2023-05 Instruct2Act arXiv:2305.11176 LLM 生成代码,调用 SAM/CLIP 等感知模型与运动基元
2023-02 ChatGPT for Robotics arXiv:2306.17582 Microsoft 提出"API 库 + 提示工程 + 人在环"的 LLM 机器人编程范式
2022-09 ProgPrompt arXiv:2209.11302 NVIDIA/USC 程序化提示:用带断言的程序表示可执行的情境化任务计划
2022-09 ★ Code as Policies arXiv:2209.07753 Google LLM 写 Python 程序组合感知/控制 API,程序本身就是策略。"代码即策略"的开山之作

奖励/仿真/数据生成(23)

日期 工作 机构 一句话
2026-10 EmbodiedSmith arXiv:2610.07969 在仿真中跑递归自我改进的数据飞轮
2026-10 Video2World arXiv:2610.04432 基准:编码 agent 从具身视频重建可交互的仿真世界
2026-10 4DCodeBench arXiv:2610.03715 基准:agent 写可执行代码重建动态场景(逆图形学)
2026-09 ARSTAG arXiv:2609.24563 CMU 一张 RGB 图 + 一句指令,经 Real2Sim2Real 生成训练数据;π0.5 真机平均成功率 74.6%
2026-07 Agentic Real2Sim arXiv:2607.19190 VLM agent 把真实机器人交互录像变成可仿真的"情景孪生",用于微调与评测
2026-06 SimFoundry arXiv:2606.28276 模块化、自动化的场景生成,用于策略学习与评测
2026-06 HARBOR arXiv:2606.08610 把机器人 RL 自动化看成 harness 工程:环境搭建、奖励设计、调参、训练一条龙
2026-05 SR-Platform arXiv:2605.14700 从自然语言生成 MuJoCo 仿真环境的 agentic 流水线
2026-05 Articraft arXiv:2605.15187 agentic 方式大规模生成铰接 3D 资产
2026-05 SimWorld Studio arXiv:2605.09423 进化式编码 agent 自动生成具身学习环境
2026-02 SceneSmith arXiv:2602.09153 MIT/TRI agentic 生成可直接仿真的室内场景,由评估 agent 检查任务是否成功(ICML'26 Spotlight)
2026-01 Genie Sim 3.0 arXiv:2601.02078 AgiBot 高保真人形机器人仿真平台
2025-02 Video2Policy arXiv:2502.09886 从互联网视频批量构建仿真任务
2024-10 GenSim2 arXiv:2410.03645 用多模态/推理 LLM 扩展机器人数据生成
2024-09 CurricuLLM arXiv:2409.18382 UC Berkeley LLM 自动设计任务课程来学习复杂技能
2024-06 DrEureka arXiv:2406.01967 UPenn/NVIDIA LLM 同时设计奖励与域随机化参数,实现 sim2real(如四足在瑜伽球上行走)
2024-01 AutoRT arXiv:2401.12963 Google DeepMind VLM + LLM 编排 20 多台机器人大规模采数据,内置"机器人宪法"安全规则
2023-12 Holodeck arXiv:2312.09067 UPenn/AI2 用语言引导生成 3D 具身 AI 环境
2023-11 ★ RoboGen arXiv:2311.01455 CMU/MIT 等 生成式仿真:自动提出任务、生成场景、选择学习方法并产出技能
2023-10 ★ Eureka arXiv:2310.12931 NVIDIA/UPenn LLM 写奖励函数代码并进化式迭代,多数任务上超过人类专家设计的奖励
2023-10 GenSim arXiv:2310.01361 MIT LLM 生成仿真任务代码,扩充任务库
2023-09 Text2Reward arXiv:2309.11489 HKU 等 自然语言目标转成可执行的稠密奖励代码
2023-06 Language to Rewards arXiv:2306.08647 Google LLM 把指令翻译成奖励参数,由 MPC 实时合成技能

VLA/基础模型(37)

日期 工作 机构 一句话
2026-09 PhysBrain 1.5 arXiv:2609.14973 DeepCybo 用人类交互视频预训练,把理解、动作与未来预测统一在一个模型里
2026-07 ACE-Brain-0.5 arXiv:2607.04426 面向"物理 agentic AI"的统一具身基础模型:感知、决策、交互、自我监控、持续改进
2026-06 Qwen-RobotManip arXiv:2606.17846 Alibaba Qwen 基于 Qwen-VL,从表征、运动、行为三个维度对齐来扩大规模
2026-06 Embodied-R1.5 arXiv:2606.11324 统一的具身推理模型(认知/规划/纠正/指点),配 Planner-Grounder-Corrector 闭环
2026-05 MolmoAct2 arXiv:2605.02881 AI2 全开源的动作推理模型,面向真实部署
2026-04 ★ π0.7 arXiv:2604.15483 Physical Intelligence 可用多模态上下文(策略、元数据、子目标图)操控的约 5B 通用模型,零样本跨本体
2026-04 HY-Embodied-0.5 arXiv:2604.07430 Tencent 面向真实世界 agent 的具身基础模型(2B/32B 激活参数两档)
2026-02 LeRobot arXiv:2602.22818 Hugging Face 端到端机器人学习开源库:硬件接口、数据、训练、部署
2025-10 InternVLA-M1 arXiv:2510.13778 Shanghai AI Lab 空间引导的 VLA 框架
2025-10 X-VLA arXiv:2510.10274 Tsinghua 等 软提示 Transformer,可扩展的跨本体 VLA
2025-10 D2E arXiv:2510.05684 用桌面(游戏/GUI)交互数据做视觉-动作预训练,再迁移到具身任务(ICLR'26)
2025-10 ★ Gemini Robotics 1.5 arXiv:2510.03342 Google DeepMind "先思考再行动"的 VLA + Motion Transfer;ER 1.5 担任编排者,调用 VLA 和搜索等工具
2025-09 WALL-OSS arXiv:2509.11766 X Square Robot 统一跨层思维链的具身基础模型("Igniting VLMs toward the Embodied Space")
2025-08 EO-1 arXiv:2508.21112 Shanghai AI Lab 等 开源统一具身基础模型(视觉-文本-动作交错预训练)
2025-08 MolmoAct arXiv:2508.07917 AI2 "动作推理模型":先做深度感知和轨迹规划,再输出动作
2025-07 ThinkAct arXiv:2507.16815 NVIDIA 用强化学习的视觉潜在规划增强 VLA 推理
2025-07 GR-3 arXiv:2507.15493 ByteDance Seed 大规模 VLA 技术报告,覆盖长时程与灵巧操作
2025-07 RoboBrain 2.0 arXiv:2507.02029 BAAI 具身"大脑"VLM:空间理解与时序决策
2025-06 SmolVLA arXiv:2506.01844 Hugging Face 小型开源 VLA + 异步推理,消费级硬件就能训练
2025-05 OneTwoVLA arXiv:2505.11917 Tsinghua 单个模型自适应地在推理和执行之间切换
2025-05 UniVLA arXiv:2505.06111 HKU/OpenDriveLab 以任务为中心的潜在动作,跨本体学习
2025-04 ★ π0.5 arXiv:2504.16054 Physical Intelligence 开放世界泛化;同一模型先解码子任务文本,再生成动作
2025-03 ★ Gemini Robotics arXiv:2503.20020 Google DeepMind 基于 Gemini 2.0 的 VLA 与具身推理(ER)模型,提出 ERQA 基准
2025-03 GR00T N1 arXiv:2503.14734 NVIDIA 开源人形基础模型,双系统:VLM(10Hz)+ 扩散动作模块(120Hz)
2025-03 Cosmos-Reason1 arXiv:2503.15558 NVIDIA 物理常识与具身推理 VLM;后续 Cosmos Reason 2 成为 GR00T N1.6 的骨干
2025-02 OpenVLA-OFT arXiv:2502.19645 Stanford VLA 微调配方:并行解码、动作块、连续动作
2025-02 Magma arXiv:2502.13130 Microsoft 同时面向 UI 操作和机器人操作的多模态 agent 基础模型
2025-01 FAST arXiv:2501.09747 Physical Intelligence 基于 DCT 压缩的高效动作 tokenizer
2024-11 CogACT arXiv:2411.19650 Microsoft 等 认知(VLM)与动作(扩散)模块协同的 VLA
2024-10 ★ π0 arXiv:2410.24164 Physical Intelligence VLM + flow matching 动作专家,跨本体灵巧操作
2024-10 RDT-1B arXiv:2410.07864 Tsinghua 双臂操作的扩散基础模型
2024-07 ECoT arXiv:2407.08693 UC Berkeley/Stanford 等 具身思维链:先推理子任务、物体、运动,再输出动作
2024-06 ★ OpenVLA arXiv:2406.09246 Stanford/UC Berkeley 等 7B 开源 VLA,开源 VLA 生态由此起步
2024-05 Octo arXiv:2405.12213 UC Berkeley 等 开源通用机器人策略(Transformer + 扩散动作头)
2023-10 Open X-Embodiment / RT-X arXiv:2310.08864 多机构合作 跨 22 种本体、百万级轨迹的开放数据集与 RT-X 模型
2023-07 ★ RT-2 arXiv:2307.15818 Google DeepMind 把动作当作语言 token 来微调 VLM,提出 VLA 概念
2022-12 RT-1 arXiv:2212.06817 Google 用约 13 万条真机演示训练的 Transformer 机器人策略

VLA 强化学习(7)

日期 工作 机构 一句话
2026-09 RL for Real-Time VLA arXiv:2609.18207 Stanford 面向实时 VLA 策略的强化学习
2026-07 HELP arXiv:2607.09776 按 rollout 分段,降低大规模后训练所需的人力
2026-06 TORL-VLA arXiv:2606.09337 触觉引导的接触密集操作在线 RL
2026-05 Learning While Deploying arXiv:2605.00416 在机器人舰队规模上对通用策略做强化学习
2026-04 RL Token arXiv:2604.23073 Physical Intelligence 从 VLA 读出一个紧凑的"RL token",小型 actor-critic 头在线 RL,几小时内关键阶段提速最高 3×
2025-11 ★ π*0.6 / RECAP arXiv:2511.14759 Physical Intelligence 优势条件化 RL,融合演示、自主数据与人类干预,让 VLA 从部署经验中提升
2025-10 πRL arXiv:2510.25889 流匹配 VLA 的在线 RL 微调

分层编排 S2→S1(18)

日期 工作 机构 一句话
2026-07 ★ Physical Agency (Pigey) arXiv:2607.21725 Princeton 闭环物理 agent 编排器调度 VLA 与参数化技能,不收集新数据;LIBERO-PRO 12.8%→53.3%
2026-07 RoboHarness arXiv:2607.18060 记忆驱动地编排异构策略,用运动规划的"记忆桥"衔接前后状态
2026-07 Retriever arXiv:2607.17213 异步的感知-信念-规划-VLA-控制循环:决策模型、编程模型与运行时
2026-07 Harness VLA arXiv:2607.08448 冻结的 VLA 作为可重试的接触原语,再配少量解析原语;用记忆学习各原语的适用范围
2026-07 Semantic Handoff Failures arXiv:2607.06256 诊断 agent 编排 VLA 技能组合时的语义交接失败
2026-07 Cortex arXiv:2607.05377 把子任务标准化成 32 种规范技能原语,让 VLM 的规划与 VLA 的执行双向对齐
2026-06 ★ Hi-VLA 设计研究 arXiv:2606.10267 系统研究分层 VLA agent:终止规则、VLA 可操控性与规划器大小同样关键
2026-06 VoLo arXiv:2606.07723 NVIDIA VLM 把 VLA/WAM 当作可中断的工具,执行中途接管、监控与恢复
2026-05 VLAs-as-Tools arXiv:2605.13119 SJTU VLM agent 调用一族专用 VLA 工具,每个工具有执行预算并回报进度
2026-03 RoboRouter arXiv:2603.07892 免训练的策略路由:根据当前状态从多个策略里挑一个
2026-03 Critic in the Loop arXiv:2603.05185 VLM 大脑 + VLA 小脑 + 轻量视觉 critic 的三系统
2026-01 Helix 02 (Figure) Figure 新增 System 0(1kHz 学习式全身控制器,替代约 10.9 万行 C++),一个网络控制行走、操作与平衡;连续 61 个动作完成洗碗机任务
2025-09 Robix arXiv:2509.01106 ByteDance Seed 统一机器人交互、推理与任务规划的高层模型
2025-06 VLA-OS arXiv:2506.17561 对比不同规划表示:低层策略对视觉计划比对语言计划更"听话"
2025-02 ★ Hi Robot arXiv:2502.19417 Physical Intelligence VLM 约每秒一次(或用户插话时)生成语言子任务交给 VLA,支持开放式指令与纠正
2025-02 Helix (Figure) Figure System 2(7–9Hz VLM)+ System 1(200Hz 视觉运动策略)控制人形上半身;发布前 Figure 宣布结束与 OpenAI 的合作
2025-02 HAMSTER arXiv:2502.05485 NVIDIA/UW VLM 预测 2D 路径作为中间表示,交给 3D 低层策略
2024-10 RoboDual arXiv:2410.08001 通用 VLA + 专用扩散策略组成的双系统

Harness/工具/MCP/记忆(35)

日期 工作 机构 一句话
2026-10 RobotUse arXiv:2610.04929 Seoul National Univ. agent 在图像上选目标与位姿,后端负责几何、规划与控制;子 agent 管细节,持续更新 playbook。RoboLab 45%(比 CaP-X 高 6.7pp)
2026-09 Recursive Harness Distillation arXiv:2609.33378 Seoul National Univ. 强 agent 把干预经验蒸馏成 playbook,交给廉价 agent 指挥冻结 VLA;真机成功率 37.3%→64.0%
2026-09 Robo-Harness K1 arXiv:2609.29389 把感知包装成工具(标定深度、持久视觉锚点、抓取假设),供 agent 查询
2026-09 MessyMem arXiv:2609.15976 Stanford/CMU 等 "做中学"记忆:每次物理交互后由 VLM 记录结果(如没抓住、抽屉锁着),更新对应物体条目
2026-09 Harness Robotic OS arXiv:2609.11225 四足闭环巡检的统一具身 agent 运行时
2026-09 Show-Harness arXiv:2609.10522 NUS Show Lab 离散语义动作单元 + 本体解释器:闭源 VLM 零样本控制,小开源 VLM 微调几个 GPU 小时即可
2026-08 EMERGE-Policy arXiv:2608.29896 主 agent + 角色子 agent(感知/监控/验证/记忆),图结构编排
2026-08 Physical Agentic AI arXiv:2608.22657 编排机器人"船员":每个计划动作在执行前都对照能力、状态和流程约束做验证
2026-08 BATON arXiv:2608.16889 USC 在技能切换时检索"过渡记忆",支撑长时程操作
2026-08 ★ ETA / OpenETA arXiv:2608.03924 Fudan Planner–Tool–Interface–World 循环,一次只调用一个工具;可以作为 Codex 的轻量插件(只暴露 observe/mark_point/move_to)
2026-08 ★ Thea arXiv:2608.11246 把编码 agent 的 harness 搬进物理世界,提出"场景图即上下文""评估即退出码"
2026-07 PhyAgentOS arXiv:2607.16636 Sun Yat-sen Univ. 以"会话"为调度单元的具身 agent 运行时,用 State-as-a-File 解耦认知与物理执行
2026-07 PHILIA arXiv:2607.11377 基于 OpenClaw 的长期多机器人助理:机器人网关抽象,长期记忆人与偏好
2026-07 ABot-AgentOS arXiv:2607.10350 Alibaba AMAP 通用机器人 Agent OS:场景规划、技能隔离执行、多级验证、多模态记忆、端云协同
2026-07 ACE arXiv:2607.04162 Tsinghua 零样本工作流推理的 agentic 操作控制
2026-07 HiMe arXiv:2607.03449 Fudan 层次化具身记忆,用于长时程 VLA 控制
2026-07 ROSA (serving) arXiv:2607.01088 NVIDIA/Stanford 机器人工厂中多台机器人共享 GPU 池的基础模型推理服务
2026-06 HoloAgent-0 arXiv:2606.23565 带 3D 空间记忆的统一具身 agent 框架
2026-06 Guava arXiv:2606.18363 系统探索 harness 的设计空间,并把能力蒸馏进 4B 开源模型(不到 2K 条仿真轨迹)
2026-05 Embodied Tool Protocol arXiv:2605.26637 100+ 具身工具的注册/发现/调用标准与 EmbodiedToolBench;EB-ALFRED +31%,但执行类工具增益有限
2026-04 Goal2Skill arXiv:2604.13942 自适应规划 + 反思,面向长时程操作
2026-04 EEAgent arXiv:2604.13533 长短期反思与优化的可进化具身 agent
2026-04 Physical Agentic Loop arXiv:2604.07395 QUT 语言引导抓取的执行状态监控,只在夹爪为空时才重试
2026-03 ROSClaw arXiv:2603.26997 把开源 agent 运行时 OpenClaw 接到 ROS 2:能力发现、执行前安全包络、审计日志;不同模型提出越界动作的比率最多相差 4.8×
2026-03 ★ RoboClaw arXiv:2603.11558 AgiBot 等 一个 VLM 控制器统一数据采集、策略学习与执行;"正向动作+逆向复位"对实现自主采集;长时程成功率 +25%,人力投入 −53.7%
2026-02 PhysMem arXiv:2602.20323 UCSD 扩展测试时记忆来做物理推理
2026-02 VLA-Perf arXiv:2602.18397 解析建模 VLA 在不同设备与网络上的推理延迟(π0 经 WiFi 用边缘服务器可能比机载更快)
2026 AgenticROS AgenticROS 提供 Claude Code / Claude 桌面端可用的 MCP 服务,以"命名能力 + 多步任务"而非原始 topic 控制机器人
2025-12 RoboNeuron arXiv:2512.10394 MCP 与 ROS 2 之间的中间层:从 ROS 消息模式自动生成 agent 可调用的工具
2025-11 VLASH arXiv:2512.01031 以"动作执行时刻的预测状态"为条件做异步推理,补偿 VLA 延迟
2025-10 Running VLAs at Real-time Speed arXiv:2510.26742 算子融合与 GPU kernel 优化,让 π0 在消费级 GPU 上约 27ms 一次推理
2025-09 ★ ROS MCP Server robotmcp(开源) 只需在机器人端启动 rosbridge,Claude Code / Codex / Gemini CLI 等 MCP 客户端就能发现并调用 ROS 1/2 的 topic、service、action
2025-06 Real-Time Chunking (RTC) arXiv:2506.07339 Physical Intelligence 推理期间冻结已承诺的动作、补全下一块,让推理慢的流匹配策略也能实时执行
2023-07 DoReMi arXiv:2307.00329 Tsinghua 等 LLM 为下一个技能写约束,VLM 定期检查,一旦违反就停下并重规划
2023-06 REFLECT arXiv:2306.15724 Columbia 把机器人经历按传感器、事件、子目标三级汇总成文本,解释失败并给出纠正计划

自动化研发/自我改进(20)

日期 工作 机构 一句话
2026-10 AgenticRoboRL arXiv:2610.28589 对机器人规划器做 SFT + 多轮 RL 后训练:9B 模型 LIBERO-PRO 18.1%→71.0%,接近带外部记忆的 Codex(GPT-5.5)的 72.1%
2026-10 RoboRSI arXiv:2610.12424 SJTU 自顶向下的技能精炼:把每次修复归因到具体能力,验证后才复用
2026-10 RPG (Reconstruct, Practice, Go Real) arXiv:2610.02204 UC Berkeley 从离线数据识别能力,在仿真里构造练习任务,再上真机;全程不更新权重
2026-09 SimEX arXiv:2609.38982 UT Austin/Amazon FAR/CMU 仿真集成的机器人 autoresearch:先在仿真里练出工具箱,再用少量真机试次同时校正仿真器和工具箱(每任务约 10 分钟真机时间)
2026-09 EmbodiRSI arXiv:2609.38905 面向数据高效适配的递归自我改进
2026-09 Explore, Execute, Evolve arXiv:2609.37810 Fudan 技能获取与复用闭环(论文报告进步并非单调)
2026-09 HarnessPAI arXiv:2609.29166 以代码作为可执行、可进化的接口来组织动作原语
2026-09 ★ 123 轮自改进的教训 arXiv:2609.31760 agent 能自己发现缺失能力,但改进不累加;瓶颈在感知的关系理解、技能链前端偏置和评估器本身
2026-08 Zetta arXiv:2608.16590 在线演化基于代码的运行时 critic 与恢复技能,基础策略保持冻结
2026-08 Teach and Grow arXiv:2608.17209 SJTU 以 agent 为中心的通用机器人学习架构
2026-08 AgenticRobotics arXiv:2608.07555 把 Claude Code/Codex 的"主 agent + 子 agent + 工具"架构移植到训练-评估-改进闭环,强调证据门控与崩溃恢复
2026-07 Zero2Skill arXiv:2607.14047 自主采集、训练、部署的闭环技能自举
2026-07 GaP arXiv:2607.05369 UC Berkeley/NVIDIA 等 多 agent 编码 harness 生成"图即策略",在内部仿真里并行排练、优化,面向工业"变型自动化"
2026-06 ★ ASPIRE arXiv:2607.00272 NVIDIA 等 闭环执行引擎 + 可复用技能库 + 进化搜索;用 Claude Opus 5.5 时 LIBERO-Pro 80 个任务平均 99%,并能在真机上解魔方
2026-06 InSight arXiv:2606.24884 VLM 找出 VLA 缺失的原语,经真机执行验证后再蒸馏回 VLA
2026-06 RoboLineage arXiv:2606.22142 agent 原生的数据生命周期治理,跨越多轮策略迭代
2026-06 ★ ENPIRE arXiv:2606.19980 NVIDIA/CMU/UC Berkeley 给编码 agent 的真实世界策略改进 harness:自动复位、执行、验证,再由 agent 改训练代码;灵巧任务成功率 99%
2026-06 RATs (Playful Agentic Robot Learning) arXiv:2606.19419 UC Berkeley 编码 agent 在下游任务到来前"自己玩":提出探索任务、执行、诊断失败、蒸馏技能
2026-03 Uni-Skill arXiv:2603.02623 ICT, CAS 自进化技能库,从视频派生的仓库里补全缺失技能
2024-05 Agentic Skill Discovery arXiv:2405.15019 Univ. Hamburg LLM 提出技能、生成奖励、用 RL 训练并验证,自主扩展技能库

前沿模型即策略(18)

日期 工作 机构 一句话
2026-10 Frontier Models on LIBERO-10 arXiv:2610.30051 6 个前沿模型 × 3 档推理强度:GPT-6 Astra 44%,Gemini-4 Argon 43%;推理越强一般越好,但代价更高
2026-10 GPT-6-Astra Understands Touch arXiv:2610.28457 把触觉作为上下文,5 个 UniVTAC 任务平均 93.8%,Insert Hole 31%→99%
2026-10 GPT-6 as a Beginning arXiv:2610.28259 RoboDojo 26.92%、RoboTwin 2.0 76.0%,但几何约束新基准 LIBERO-GeoMotion 只有 11.1%
2026-10 ★ Has GPT-6-Astra Achieved Embodied Intelligence? arXiv:2610.22471 SenseNova 12 个基准 + 8 种真机配置,结论:具身能力"基本具备",实用的具身智能"尚未"
2026-10 ★ Gemini 4 Argon for Robotics Google DeepMind ERQA 87%;能从视频/草图生成 MuJoCo 孪生与控制代码,生成的仿真数据把真机成功率从 56% 提到 75%
2026-10 Awesome-Astra-Embodied-AI 社区 GPT-6 Astra 具身/机器人用例汇总:零样本控制、调用 VLA、real2sim、自建 RL 环境,约 44 个案例
2026-10 Astranomy NVIDIA SRL 在 RoboLab-120 上比较 Astra 的三种角色:直接策略、Codex 中的 agentic 策略(74.8%)、编排基础模型的监督者,同时统计延迟与 token 成本
2026-09 LIBERO-Agent arXiv:2609.39507 agent 原生的操控基准:自己挑观测、自己用工具处理、发原生动作命令;GPT-6 Astra 综合最强
2026-09 ★ GPT-6 Astra as Embodied Policies arXiv:2609.38537 Galbot 六个领域系统评测:导航强(RxR 92%),与 π0.5 混合控制 RoboDojo 48%;灵巧在手操作与步态弱;30 秒步态需 250 次调用、每次约 40 秒
2026-09 RoboICL arXiv:2609.34261 冻结的 GPT-6 Astra + 示范上下文 + 有界的锚定交互记忆,做具身上下文学习
2026-09 HomeBody Stanford/Caltech GPT-6 Astra 不经 VLA,直接调用 5 个可组合技能,驱动 Unitree G1 在陌生厨房整理、取物(先建 Isaac Sim 数字孪生);未公布成功率
2026-09 An Unexpected Robot Policy arXiv:2609.24170 RoboDojo 42 个任务上,GPT-6 Astra 平均成功率 22.48%,超过全部 40 个公开策略;GPT-5.5 只有 0.88%
2026-09 GPT-Policy arXiv:2609.19138 上下文编译器 + VLM 提议工具动作 + 约束控制器验证执行;人类视频示范即使没有动作标签也有帮助
2026-09 GPT-6 Astra 发布 OpenAI 官方主打电脑操作;发布后社区大量把它直接当机器人策略测试(可直接输出数值动作)
2026-08 Model Hardware Standard (MHS) Anthropic 研究预览:用简单的读/写命令 + 安全参数参考文件,让 agent 经 MCP/CLI/API 控制机械臂、显微镜等设备,对其他模型同样开放
2026-07 ★ Claude plays robotics Anthropic 5 家厂商的 12 个模型,跨扭矩直控、写控制器、训 RL、监督 VLA 四种接口:越高层越好用;实时直控约需 83Hz,而推理只有 0.2–0.4Hz
2026-06 ★ Project Fetch 第二阶段 Anthropic Claude Opus 4.7 在 Claude Code 中独立完成:4 项共同任务用时 9 分 35 秒,对照最快人类团队 181 分钟(约 19×);但仍没能完成自主"取回"球
2025-11 ★ Project Fetch Anthropic 两组零机器人经验的研究员给 Unitree Go2 编程捡球:用 Claude 的一组完成 7/8 项任务(对照组 6/8),共同任务用时约减半

世界模型/WAM(11)

日期 工作 机构 一句话
2026-09 World Action Agent arXiv:2609.29964 VLM 在执行前先做"世界-动作预演"
2026-09 GE-Act 2.0 arXiv:2609.05588 AgiBot 从零预训练并扩展的世界-动作模型(Genie Envisioner Act 2.0)
2026-09 EmbodiedSkills arXiv:2609.01281 用 WAM 预测动作后果,再从冻结 VLA 的候选动作里挑
2026-08 HarnessWAM arXiv:2608.09516 给 WAM 配一个 VLM 任务管理器:维护任务图和证据化的场景信念,由事件触发审议
2026-08 DYNA-2 Dyna Robotics 用超过 100 万小时第一人称人类视频训练的 WAM,宣称出现人到机器人的扩展规律
2026-03 Cosmos 3 NVIDIA GTC 2026 发布:把世界生成、视觉推理与动作仿真统一起来的世界基础模型
2026-02 ★ DreamZero arXiv:2602.15922 NVIDIA GEAR 14B 世界-动作模型,联合预测视频与动作,7Hz 闭环,泛化比 VLA 高 2 倍以上(GR00T N2 的基础)
2026-02 NavDreamer arXiv:2602.09765 视频生成模型直接作零样本 3D 导航器
2026-01 1X World Model 1X 官方称其为 NEO 的"认知核心":视频预测想象未来,再用逆动力学模型转成动作
2025-08 Genie 3 Google DeepMind 实时可交互的世界模型(720p/24fps),用于训练具身 agent;2026-01 以 Project Genie 形式开放
2025-06 V-JEPA 2 arXiv:2506.09985 Meta 自监督视频世界模型;动作条件版 V-JEPA 2-AC 能零样本规划抓放

基准评测(20)

日期 工作 机构 一句话
2026-10 Embodied Playground arXiv:2610.27039 410 个长时程 agentic 机器人环境,考察物理、策略与空间推理
2026-10 ★ RobotWorld arXiv:2610.10409 84 个任务覆盖操作、移动操作、步态、驾驶、飞行:GPT-6 Astra 19.0%,Claude Opus 5.5 15.5%,63 个任务所有模型都没完成
2026-10 RoboQuest arXiv:2610.10388 NTU 关键信息开局缺失,需要主动搜索、检查、试验才能拿到;最好的 agent 只有 23%,微调后的 π0.5 几乎为 0
2026-09 ActiveArena arXiv:2609.24124 操作中的主动感知基准
2026-09 LIBERO-RECOVER arXiv:2609.05178 不只看成功率,还评测失败后的恢复能力
2026-07 Aerial MLLM Mission Eval arXiv:2607.22014 空中 MLLM agent 的零样本任务级评测
2026-07 RoboDojo arXiv:2607.04434 仿真 + 真机统一基准,带公开排行榜
2026-05 VLA-REPLICA arXiv:2605.20774 低成本、可复现的真机 VLA 基准(SO101 机械臂)
2026-05 RoboMemArena arXiv:2605.10921 机器人记忆基准
2025-12 Embodied4C arXiv:2512.18028 具身视觉语言导航评测
2025-12 BEHAVIOR Challenge 2025 冠军方案 arXiv:2512.06951 基于 π0.5 做任务适配,50 个家务任务 Q-score 0.26(NeurIPS 2025 挑战赛第一)
2025-10 ★ Butter-Bench arXiv:2510.21860 Andon Labs LLM 当机器人"大脑"(TurtleBot 4,ReAct 循环):最好的模型 40%,人类 95%;多步空间规划与社交理解最弱
2025-10 NavSpace arXiv:2510.08173 PKU 等 导航 agent 对空间智能指令的跟随能力(ICRA'26)
2025-10 LIBERO-PRO arXiv:2510.03827 扰动版 LIBERO,暴露 VLA 的记忆化问题,也是 2026 年 agent 方法的常用擂台
2025-06 RoboArena arXiv:2506.18123 多机构合作 分布式真机双盲成对评测(DROID 平台);2026-04 榜单 DreamZero 1750 Elo,π0.5 1622
2025-02 ★ EmbodiedBench arXiv:2502.09560 UIUC 等 MLLM 具身 agent 基准:高层任务 Claude-3.5 最好(约 64–68%),低层操作最好的 GPT-4o 也只有 28.9%(ICML'25)
2025-01 EmbodiedEval arXiv:2501.11858 Tsinghua MLLM 作为具身 agent 的交互式评测
2024-12 VLABench arXiv:2412.18194 Fudan 需要长时程推理的语言条件操作基准
2024-12 VSI-Bench (Thinking in Space) arXiv:2412.14171 NYU 评测 MLLM 的视觉空间智能:看、记、回忆空间
2024-10 ★ Embodied Agent Interface arXiv:2410.07166 Stanford 把 LLM 具身决策拆成目标解释、子目标分解、动作序列、转移建模四个模块,细粒度评测(NeurIPS'24 D&B)

安全(16)

日期 工作 机构 一句话
2026-09 ★ SafeHarness arXiv:2609.20822 USC 编码 agent 多数情况下会撞上明令禁止触碰的障碍物(它"知道"却不优先);加障碍感知的路径/接触 harness 修复
2026-09 ARC arXiv:2609.12932 面向已部署自主系统的三层治理架构
2026-09 SafeMem arXiv:2609.08444 用长期图记忆做安全任务规划,视野外物体也保留在场景图里
2026-08 GuardianBench arXiv:2608.21928 同一场景只换指令:良性指令与安全场景组合后才出现的潜在风险
2026-06 SoK: FM 机器人的安全与隐私 arXiv:2606.16788 从风险来源、传播路径到缓解措施位置的统一分析框架
2026-04 SafeGate arXiv:2604.05427 Purdue 参照 ISO 13482 的执行前安全闸门与任务安全契约
2026-02 CORE arXiv:2602.19983 UPenn VLM 在线推理情境化的安全约束,再用控制屏障函数强制执行
2026-02 AgentRob arXiv:2602.13591 论坛里的 agent 通过 MCP 调度真实 Go2/G1,说明"被劫持的物理机器人"风险
2025-12 RoboSafe arXiv:2512.21220 Beihang 基于可执行谓词安全逻辑的运行时防护
2025-09 ASIMOV-2.0 arXiv:2509.21651 Google DeepMind 物理危险感知与干预基准,分伤害、本体约束、视频风险三部分
2025-06 AgentSafe arXiv:2506.14697 具身 VLM agent 面对危险指令时的安全基准(CVPR'26)
2025-03 ASIMOV (Robot Constitutions) arXiv:2503.08663 Google DeepMind 生成"机器人宪法"与语义安全基准
2025-03 ★ RoboGuard arXiv:2503.07885 UPenn 由隔离模型生成情境化安全规范,再做时序逻辑模型检查;越狱成功率 92.3%→2.3%
2024-10 ★ RoboPAIR arXiv:2410.13691 UPenn 首个越狱 LLM 控制机器人的算法:自驾 LLM、GPT 规划的地面机器人、商用四足全部被攻破
2024-07 BadRobot arXiv:2407.20242 在物理世界中越狱具身 LLM agent
2023-09 Safety Chip arXiv:2309.09919 Brown 把专家验证的 LTL 约束编译成自动机,执行前剪掉不安全动作

导航(10)

日期 工作 机构 一句话
2026-09 HarnessVLN arXiv:2609.15195 AgiBot 免训练的统一导航 agent harness
2026-08 NavMCP arXiv:2608.30396 SJTU VLM agent 决定找什么、去哪找、何时停,导航基础模型负责执行;长时程探索 78.3%
2026-07 ABot-N1 arXiv:2607.10383 Alibaba AMAP 用慢-快架构解耦认知与控制的通用 VLN 基础模型
2026-02 ABot-N0 arXiv:2602.11598 Alibaba AMAP 统一 5 类导航任务的 VLA(LLM 认知大脑 + 流匹配动作专家)
2025-12 DualVLN arXiv:2512.08186 Shanghai AI Lab "慢推理、快运动"的双系统导航基础模型
2024-12 Uni-NaVid arXiv:2412.06224 PKU 基于视频的 VLA,统一多种导航任务
2024-12 NaVILA arXiv:2412.04453 UCSD/NVIDIA 腿式机器人导航 VLA:VLM 输出语言化动作,交给步态策略执行
2023-05 NavGPT arXiv:2305.16986 Adelaide 用 LLM 的显式推理做视觉语言导航
2022-10 VLMaps arXiv:2210.05714 Freiburg/Google 视觉语言地图,支持开放词汇的空间指令
2022-07 LM-Nav arXiv:2207.04429 UC Berkeley/Google LLM + CLIP + 视觉导航模型零样本组合

多机器人/多智能体(11)

日期 工作 机构 一句话
2026-09 AeroWeaver arXiv:2609.18520 给空中集群编织技能、分配角色的具身 agent harness
2026-08 MistyPilot arXiv:2608.15549 多 agent LLM 技能编排,控制社交机器人
2026-04 M2HRI arXiv:2604.11975 LLM 驱动的多模态多 agent 个性化人机交互
2026-03 IMR-LLM arXiv:2603.02669 工业多机器人任务规划与程序生成
2026-01 EmboTeam arXiv:2601.11063 LLM 推理经 PDDL 落地成反应式行为树,用于多机协作
2025-11 Monolithic→Multi-Agent arXiv:2512.00797 把单体基础模型改造成具身多 agent 架构,用于人机协作
2025-05 RoboOS arXiv:2505.03673 BAAI 跨本体、多 agent 协作的分层具身框架
2024-10 EMOS arXiv:2410.22662 本体感知的异构多机器人 OS:从 URDF 和正运动学自动生成"机器人简历"(ICLR'25)
2023-09 SMART-LLM arXiv:2309.10062 Purdue LLM 完成多机器人任务分解、联盟形成与分配
2023-07 RoCo arXiv:2307.04738 Columbia 多个机械臂通过 LLM 对话协商计划,执行前做可行性检查
2023-07 CoELA arXiv:2307.02485 UMass 等 模块化的合作具身 LLM agent,含通信模块

人形(7)

日期 工作 机构 一句话
2026-07 HumanCLAW arXiv:2607.27180 把 VLM 的动作决策和底层全身运动解耦的评测框架
2026-03 Cybo-Waiter arXiv:2603.10675 人形全身移动操作的物理 agent 框架
2025-12 WholeBodyVLA arXiv:2512.11047 统一潜在 VLA 的全身移动操作(ICLR'26)
2025-06 Humanoid VL Planning arXiv:2506.22827 RL 全身跟踪 + 模仿技能 + VLM 规划监控三层;Unitree G1 上成功率 72.5%
2025-06 LeVERB arXiv:2506.13751 UC Berkeley 等 用潜在视觉-语言指令驱动人形全身控制
2025-04 LangWBC arXiv:2504.21738 UC Berkeley 语言指令端到端控制人形全身
2025-03 Being-0 arXiv:2503.12533 PKU/BeingBeyond 基础模型做高层认知,经 Connector VLM 衔接模块化技能的人形 agent

虚拟世界智能体(2)

日期 工作 机构 一句话
2025-12 SIMA 2 arXiv:2512.04797 Google DeepMind Gemini 驱动的 3D 虚拟世界通用 agent,能在 Genie 3 生成的新世界里自我改进
2023-05 ★ Voyager arXiv:2305.16291 NVIDIA/Caltech Minecraft 里由 GPT-4 驱动的终身学习 agent:自动课程 + 代码技能库 + 自我验证,后来"技能库"范式的源头

自动驾驶(4)

日期 工作 机构 一句话
2026-05 MindVLA-U1 arXiv:2605.12624 统一流式架构的驾驶 VLA
2026-03 Alpamayo 1.5 NVIDIA 开放的 10B 推理型驾驶 VLA(Cosmos-Reason2 骨干 + 扩散轨迹解码),支持语言导航指引
2026-02 SteerVLA arXiv:2602.08440 在长尾驾驶场景中操控 VLA
2025-06 VLA4AD 综述 arXiv:2506.24044 自动驾驶 VLA 综述

综述/资源(23)

日期 工作 机构 一句话
2026-10 ★ Towards Agentic Robots arXiv:2610.20442 CUHK MMLab/Fudan/Tsinghua 等 Model/Data/Environment/Harness 四大域、17 类,目前对 agentic robots 最系统的综述(2026-10)
2026-09 ★ Survey on Multimodal Embodied Agents NUS Show Lab 从 computer-use 到 robot-use 的统一能力视角,提出 PAPAV 框架(感知-预判-规划-行动-验证)
2026-08 ★ Weights or Skills? arXiv:2608.01851 "把能力烤进权重(VLA)"与"agent 自己写技能(代码)"两条路线;按自我改进程度梳理代码即策略
2026-03 Industrial RFM Survey arXiv:2603.06749 机器人基础模型在工业中的可用性综述与评估框架
2025-10 Unified Robot Manipulation Survey arXiv:2510.10903 机器人操作的统一视角综述
2025-10 VLA Review toward Real-World arXiv:2510.07077 面向真实世界应用的 VLA 综述
2025-09 Embodied AI: From LLMs to World Models arXiv:2509.20021 从 LLM 到世界模型的具身 AI 综述
2025-09 Pure VLA Survey arXiv:2509.19012 按自回归、扩散、强化、混合等路线分类的 VLA 综述
2025-08 Large VLM-based VLA Survey arXiv:2508.13073 基于大 VLM 的操作 VLA 综述
2025-08 Towards Embodied Agentic AI arXiv:2508.05294 LLM/VLM 驱动的机器人自主与交互:分类与集成视角
2025-07 FM-driven Robotics Review arXiv:2507.10087 基础模型驱动的机器人综述
2025-07 VLA: Action Tokenization Perspective arXiv:2507.01925 PKU 从"动作 token 化"角度看 VLA
2025-06 Embodied AI Agents: Modeling the World arXiv:2506.22355 Meta Meta 的具身 agent 观点文章:以世界模型为核心
2025-05 FMs for Mobile Service Robots arXiv:2505.20503 Univ. Toronto 移动服务机器人上的基础模型系统性综述
2025-05 Multi-agent Embodied AI arXiv:2505.05108 多智能体具身 AI 的进展与方向
2025-05 VLA: Concepts, Progress, Applications arXiv:2505.04769 VLA 的概念、进展、应用与挑战
2024-07 Aligning Cyber Space with Physical World arXiv:2407.06886 Sun Yat-sen Univ. 具身 AI 全景综述
2024-05 Survey on VLA for Embodied AI arXiv:2405.14093 CUHK 等 较早的 VLA 综述,持续更新(2026-05 到 v8)
2024-02 Real-World Robot Applications of FMs arXiv:2402.05741 Univ. Tokyo 基础模型在真实机器人上的应用综述
2024-02 Robotics with FMs toward Embodied AI arXiv:2402.02385 基础模型机器人走向具身 AI 的综述
2023-12 Toward General-Purpose Robots via FMs arXiv:2312.08782 CMU 等 基础模型通往通用机器人:综述与元分析
2023-12 Foundation Models in Robotics arXiv:2312.07843 Stanford 等 应用、挑战与未来
2023-11 LLMs for Robotics: A Survey arXiv:2311.07226 LLM 用于机器人的综述

产业发布(13)

日期 工作 机构 一句话
2026-10 Pi API beta Physical Intelligence 上传机器人数据、在托管算力上微调 π 模型、云端推理接入自己的机器人
2026-10 OpenAI Decisions API OpenAI 让模型(gpt-6-luna)只回答有限选项的判断/选择/打分,速度快且有概率输出,可作 harness 里的快速决策层
2026-08 Skild S1 Skild AI 看一段任务视频即可学会最长 10 分钟的任务并实时执行
2026-07 ★ Gemini Robotics 2 / ER 2 Google DeepMind ER 2:实时视频理解、任务进度跟踪、Live API 流式低延迟编排、工具调用、多机器人协作;同系列还有 VLA 与 On-Device 2
2026-06 OpenAI Robotics OpenAI 独立机器人部门(Aditya Ramesh 领导,源自 world simulation 研究),10 月确认自研人形,计划 2027 年公开演示
2026-04 Gemini Robotics-ER 1.6 Google DeepMind 空间与多视角推理增强,新增仪表读数(与 Boston Dynamics 合作),官方称"迄今最安全的机器人模型"
2026-04 AgiBot GO-2 AgiBot 一个系统里统一推理与执行:先生成动作意图序列作宏观计划,异步双系统分离推理与控制
2026-04 GEN-1 Generalist AI 约 50 万小时数据从零训练;所选任务平均成功率 99%(GEN-0 为 64%),每项任务只需约 1 小时机器人数据
2026-03 GR00T N1.7 / N2 预览 NVIDIA GTC 2026:N1.7 提供商业授权早期访问;N2 预览,基于 DreamZero 的"世界-动作模型"架构
2026-01 Rho-alpha (ρα) Microsoft Research 基于 Phi 系列的首个机器人模型,"VLA+":加入触觉与基于人类反馈的持续学习
2025-12 GR00T N1.6 NVIDIA 3B 开源 VLA:Cosmos-Reason-2B 骨干 + 32 层 DiT 动作头,支持人形边走边操作(发布时间各来源说法不一,2025-10 至 2026-01)
2025-11 GEN-0 Generalist AI 用 27 万小时真实操作数据训练,宣称在 7B 以上出现机器人扩展规律
2025-09 Gemini Robotics 1.5 发布 Google DeepMind 官方博客:"把 AI agent 带进物理世界",ER 1.5 编排、VLA 执行,ER 1.5 通过 API 开放