动态列表

  • GPT-5王者归来?奥特曼称AI已跨科学门槛,三大学科正迎来实质性突破
  • 老黄押宝「美版DeepSeek」!谷歌天才叛将创业,一夜吸金20亿美元
  • 任意Agent皆可强化学习!微软推出Agent Lightning框架,无需修改任何代码
  • 13万被引!ImageNet作者苏昊或将加盟复旦
  • 250份文档投毒,一举攻陷万亿LLM!Anthropic新作紧急预警
  • 和两位 CEO 聊 Sora: 应用层爆发的里程碑事件,创业者的机会来了
  • 新一代短剧人,涌向郑州「淘金」
  • 社交媒体的黄金时代,结束了
  • U-Bench:U-Net十年“大乱斗”终结者,100个变体、28个数据集的终极对决
  • DeepSeek苦练1T,清华只用5B?InfLLM-V2把稀疏注意力玩明白了
  • 北京/上海内推 | 阶跃星辰招聘RL for AIGC方向算法研究员/实习生
  • EMNLP 2025 | 拨云见日:知识电路分析揭示大语言模型“知识遮蔽”幻觉之源
  • Sora 下载量破 100 万次;国庆中秋假期国内游总花费超过 8000 亿元;智驾多位核心高管离职,蔚来回应|极客早知道
  • 谷歌杀入诺奖神殿,两年三冠五得主!世界TOP3重现贝尔实验室神话
  • OpenAI×英伟达,可能创造了人类史上最大万亿级泡沫
  • H-1B正在筛掉「下一个英伟达」?
  • 全球AI视频大战升级!「中国版Sora」Vidu Q2参考生月底发布,能力对标Sora 2
  • 第二代InfLLM开源,同尺寸快三倍!零参数,可训练稀疏注意力
  • 稳住训练、跑出泛化:STAGE重写「自回归图像生成」的强化学习范式
  • 腾讯推出TRM:让大模型像人类一样批判性思考,从文本依赖到事实正确
  • 马毅团队重磅发布新书:从MCR²到白盒Transformer,重构深度学习的第一性原理
  • Diffusion²来袭:威斯康星大学&华盛顿大学等提出双扩散模型,“回溯历史-预测未来”,破解自动驾驶“鬼探头”难题
  • 北大等提出TrackVLA++:赋予机器人推理与记忆,跟踪成功率飙升12%
  • 把我的第一次日本旅行,完全交给 AI 是什么体验?
  • 英伟达将投资马斯克的 xAI;低价版Model 3/Y 「阉割」智驾功能;微信推出批量撤回信息功能
  • 刚刚,清华物理传奇Yao Shunyu,跳槽谷歌DeepMind!
  • 赚100亿,烧1万亿!OpenAI算力神话:英伟达撒钱、AMD送股、全硅谷陪跑
  • 英伟达垄断AI算力局面或将被颠覆!AMD赌上身家发起决斗,奥特曼窃喜
  • 刚刚,2025年诺贝尔化学奖揭晓!偷溜进图书馆的少年,改变了世界
  • 小心,AI依赖会让你变笨!吴恩达等专家教你如何正确使用AI
  • 无RLHF,7M小模型反超DeepSeek-R1:三星团队用递归思考取代规模堆叠
  • 告别深度传感器!慕尼黑工业大学提出DropD-SLAM:仅用单目RGB即可实现RGB-D级的SLAM精度
  • IROS 2025 | Waymo与谷歌DeepMind联手提出Drive&Gen:用生成视频评估自动驾驶,虚拟测试更逼真
  • 陶哲轩联手ChatGPT!10分钟击碎30年「无理」难题,数学圈炸裂
  • 刚刚,奥特曼官宣ChatGPT「终极OS入口」!8分钟速搭智能体,8亿人狂欢
  • 顿悟不是玄学!港科大清华等联手:撕开推理黑箱,RL让AI像人思考
  • 4万亿帝国接班人浮出水面!苹果不需要另一个库克
  • 刚刚,2025年诺贝尔物理学奖揭晓!量子计算成最大赢家
  • NeurIPS 2025 | 北邮用“图+文”把人物检索拉满:自动合成数据 × 细粒度特征对齐
  • 告别梯度!Evolution Strategies全参微调挑战PPO/GRPO:更稳、更省、更好复现
  • TPAMI 2025 | 电子科大等提出EEMFlow:从事件相机学习高效Meshflow与光流,速度提升30倍
  • MICCAI 2025 | 莱斯大学提出MetaSeg:参数减少90%,元学习隐式网络重塑医学图像分割
  • OpenAI 与 AMD 签百亿美元协议,后者股价暴涨;特斯拉廉价 Model Y 将于 7 日发布;知名旅行、听歌应用入住 ChatGPT
  • 乔纳森下一个iPhone神话,要黄了?OpenAI秘密AI硬件深陷三重困境
  • 3年手搓ChatGPT!剑桥天才少年在Minecraft游戏中爆火回归
  • 一举击败Claude Code!微软提出代码生成黑科技:一键直出36K行代码
  • 刚刚,2025年诺贝尔生理学或医学奖揭晓!三位得主点燃器官移植希望
  • OpenAI入股AMD,股价暴涨35%!奥特曼左手黄仁勋,右手苏姿丰,通吃全球算力
  • 真实数据、全链路、可复核:GenoMAS打造更可信的基因分析智能体
  • 自进化Agent的第三种可能:隐式记忆,不动模型参数,胜过GRPO
  • NeurIPS 2025 | 高通提出GCL:无需额外数据,通用多模态检索迎来“一统江湖”新范式
  • NeurIPS 2025 | 慕尼黑工业大学提出SIM(3)等变网络:让3D形状补全告别“姿态偏见”,实现跨域泛化
  • 今日迎本世纪「最晚中秋月圆」;雷军:小米17 五天销量破百万;ChatGPT 或添私信聊天功能
  • 腾讯王者归来:混元图像3.0登顶LMArena!一手实测全球最强图像AI
  • AI「学不会」竟成相变探针!UCSD华人联手谷歌等,曝光量子纠缠秘密
  • 最新,2025诺奖预测出炉!中国科学家有望拿下化学奖?
  • 奥特曼:感受不到GPT-5变强,是因为你还不够「专业」
  • GPT-6或将比GPT-5强10倍!奥特曼揭秘ChatGPT如何诞生
  • 宾大提出F³:事件相机迎来“预测性”表征新范式,光流、分割、深度全SOTA!
  • “移步换景”一试,大模型全乱了:OST-Bench揭示MLLM时空推理短板
  • NeurIPS 2025 | AI也能做数学建模?本科生携手MM-Agent勇夺美赛全球前2%
  • LSTM之父再出手!xLSTM挑战Transformer:一场关于Scaling Laws的正面交锋
  • 微软下架「炉石」等多款游戏;华为云:华为算力效能超英伟达芯片 3 倍;马斯克回应特斯拉机器人打拳:并非遥控
  • 陶哲轩联手GPT-5,1小时攻克数学难题!全程无需编码,OpenAI副总惊呼
  • 1亿签约金抢AI大神?谷歌AI元老劝退全网:别再读博了!
  • 三天逆袭,Sora登顶美榜!15秒大片玩疯奥特曼,全网直呼真假难辨
  • 10个Agent一键组队:并行智能体协作,端到端交付从24h缩减到4h!
  • 首位AI女演员出道!好莱坞「天敌」来了,下一代偶像全是代码制造?
  • 南理工提出FMC-DETR:巧用“频率解耦”,航拍小目标检测精度飙升8.2% AP50
  • 网红挑战特斯拉FSD穿越美国出车祸;小米回应「小米汽车突然自己开走」;Sora 登顶美区苹果商城免费榜

东京大学、牛津大学等联合发布VLA万字综述:机器人迈向通用智能的全栈指南

CV君 2025-10-10 14:51 江苏

一文读懂机器人通用模型VLA的全技术栈。

当大语言模型(LLM)和视觉语言模型(VLM)的能力不断溢出到机器人领域,一个激动人心的新方向——视觉-语言-动作(Vision-Language-Action, VLA)模型,正成为通往通用机器人之路的关键钥匙。最近,来自东京大学、牛津大学和德克萨斯大学奥斯汀分校的研究者们联手,在《IEEE Access》上发表了一篇极为全面的综述,系统性地梳理了VLA模型的全貌。

这不仅仅是一篇简单的文献回顾,更是一份面向真实世界应用的“全栈式”指南,涵盖了从软件算法到硬件平台、从数据收集到模型评估的方方面面。CV君觉得,对于任何想要了解或投身于具身智能领域的研究者和工程师来说,这篇论文都将是一份宝贵的参考资料。

  • 论文: Vision-Language-Action Models for Robotics: A Review Towards Real-World Applications

  • 作者: Kento Kawaharazuka, Jihoon Oh, Jun Yamada, Ingmar Posner, Yuke Zhu

  • 机构: 东京大学、牛津大学、德克萨斯大学奥斯汀分校

  • 论文地址: https://arxiv.org/abs/2510.07077

  • 项目主页: https://vla-survey.github.io

VLA模型:机器人通往通用之路的基石

在过去,机器人系统通常将感知、语言理解和动作执行解耦处理,这限制了其在复杂、未知任务中的泛化能力。而VLA模型的出现,旨在打破这些模态之间的壁垒。

简单来说,VLA模型是一个统一的端到端框架,它接收视觉观察(看什么)和自然语言指令(做什么)作为输入,并直接生成机器人的控制动作(怎么做)。其核心目标是学习一个能够跨越不同任务、物体、机器人形态和环境的通用策略,从而让机器人仅需少量甚至无需额外的任务数据,就能灵活、可扩展地部署于真实世界。

这篇综述的结构非常清晰,从VLA模型面临的核心挑战出发,系统地回顾了其发展历程、关键技术和未来方向。

VLA模型的演进之路

VLA模型的发展并非一蹴而就,论文通过一张时间线图清晰地展示了其技术演进脉络。

  • 早期CNN 기반 모델: 以CLIPort为代表,首次尝试将预训练的VLM(如CLIP)用于提取视觉和语言特征,实现了端到端的物体操纵。但基于CNN的架构在统一多模态信息和扩展性方面存在瓶颈。

  • 基于Transformer和VLM的规模化策略: 随着Transformer架构的兴起,以谷歌的RT-1、RT-2为代表的模型,利用大规模真实世界数据进行训练,并借助强大VLM(如PaLM-E)作为骨干网络,展现了出色的泛化能力。这一时期的代表作还有OpenVLA,它成为了一个主流的开源VLA架构。

  • 扩散/流匹配技术的融合: 为了生成更平滑、更连续的动作,Octo、RDT-1B、π0等模型将扩散模型(Diffusion Models)或流匹配(Flow Matching)技术集成到动作解码器中,显著提升了机器人控制的实时性和稳定性。

  • 近期趋势:潜在动作与层级控制: 最新的研究,如LAPA、π0.5、GR00T N1,则开始关注从视频中学习潜在动作(Latent Action)以及构建层级控制策略,旨在将高层的任务规划与底层的电机执行更优雅地结合起来。

VLA核心架构:三大主流范式

论文将现有的VLA模型归纳为三大核心架构:传感器-动作模型、世界模型和可供性模型。

传感器-动作模型 (Sensorimotor Models)

这是最直接、最主流的VLA架构,它将视觉、语言等传感器输入直接映射到动作输出。论文进一步细分了七种具体的实现方式,展示了该领域架构设计的多样性。

从最初的“Transformer + 离散动作”到最新的“VLM + 扩散Transformer”,我们可以看到一条清晰的技术路线:模型骨干从零开始训练的Transformer演变为利用互联网数据预训练的VLM,动作表示也从离散的Token演变为由扩散或流匹配生成的连续控制信号。

世界模型 (World Models)

与直接输出动作不同,世界模型的核心思想是“预测未来”。它根据当前的观察和语言指令,预测未来世界的感官状态(如未来的图像序列)。然后,基于这些预测来规划和生成动作。这种方式使得机器人具备了更强的规划和多模态推理能力。

可供性模型 (Affordance-based Models)

“可供性”(Affordance)是一个源于心理学的概念,指环境为行动者提供的行动可能性。在机器人领域,它表示物体或场景的可操作属性。可供性模型首先基于语言指令预测出环境中的可供性(例如,一个杯子“可以被拿起”的区域),然后基于这些可供性来生成具体动作。这种方式让机器人的行为更具解释性和鲁棒性。

VLA模型的训练与实现

训练一个强大的VLA模型,离不开有效的学习范式。论文总结了三种主流策略:

  • 监督学习: 这是最主要的方式,通常以模仿学习(Imitation Learning)的形式,在“图像-语言-动作”配对的数据集上进行训练。

  • 自监督学习: 用于学习模态间的一致性(如语言指令与目标图像的对齐)或从无标签数据中学习有意义的表征(如从人类视频中学习潜在动作)。

  • 强化学习 (RL): RL常用于微调通过模仿学习预训练好的VLA模型,以提升其在真实世界中的鲁棒性和成功率,或用于训练底层控制器。

迈向真实世界:全栈视角

这篇综述最具价值的部分之一,就是它提供了一个完整的“全栈”视角,详细讨论了将VLA模型部署到真实世界所涉及的各个环节。

  • 机器人平台: 涵盖了机械臂、灵巧手、移动机器人、四足机器人和人形机器人等VLA研究中常用的硬件。

  • 数据收集: 介绍了遥操作、代理设备(Proxy Devices)和人类数据收集等多种方法。

  • 公开数据集: 系统整理了近年来用于VLA研究的真实世界机器人数据集,这对研究者来说是极为宝贵的资源。

  • 评估基准: 同样,论文也汇总了主流的VLA评估仿真环境及其关键特性,为模型的公平比较提供了依据。

总结

CV君认为,这篇综述通过对VLA模型进行系统性的全栈式梳理,不仅清晰地描绘了该领域的技术图景和发展脉络,还为研究者和工程师提供了极具价值的实践指南。它就像一张详细的地图,指引着我们如何在VLA这个充满机遇与挑战的新大陆上探索。

大家对VLA模型的未来怎么看?欢迎在评论区分享你的见解!

阅读原文

跳转微信打开

联系我们