← 返回实验页

动作到底从哪里获得信息?

π0.5、Cosmos 3、Long-WAM:按层读取信息的示意图

共同点相似,内部连接不一样

① 直接生成动作

画面+指令
↓
一个 Transformer 主干
↓
动作 token → 动作

不必单独设置动作专家

② 理解+动作专家

画面+指令
↓
理解模块(VLM)
↓ 读取内部信息
动作专家 → 动作

π0.5:读取对应层的 K/V

③ 未来预测+动作

画面+指令
↓
预测未来画面
↕ 或单向传递信息
生成动作

Cosmos:联合生成
Long-WAM:视频 → 动作

这些是简化分类,可以重叠;不是所有模型都采用“左右两支、逐层 K/V”连接。

OpenVLA 与 π0.5:同样的画法

OpenVLA 原版

Llama 2 7B 主干 32 层 · L0–L31

VLM 主干画面+文字指令先经视觉编码/文字分词L0L1…L30L31注意力+ FFN输出头:预测动作 token解码 → 机器人动作逐个生成 token,复用同一套主干和 K/V 缓存

一套主干直接预测动作 token,没有另一列独立动作专家。

① 展开看:OpenVLA 如何直接生成动作?

相机画面
↓
视觉编码器+投影
↓
图像 token
“拿牛奶”
↓
文字分词
↓
文字 token
两种 token 一起送入 ↓
语言模型主干(Llama 2 7B)
多层注意力+FFN
逐个预测下一个 token ↓
动作 token 序列
[移动 X] [移动 Y] [移动 Z] [旋转…] [夹爪]
查分档数值+反归一化 ↓
机器人控制量
平移、旋转、夹爪开合 → 执行

动作 token 是数值的编码,不是“向左”“抓住”这样的自然语言命令。主干后面不需要再接一个扩散动作专家;视觉编码器仍然存在。

OpenVLA 原版

动作数值分档
↓
预测对应的离散 token

官方架构

π₀-FAST

一段动作压缩编码
↓
生成 token → 解码整段动作

不是我们使用的 π0.5 动作专家结构。官方介绍

VLA-0

动作编码成整数文本
↓
原有文字 token → 动作数值

不新增动作词表;仍需机器人数据训练。官方介绍

② / ③ 展开看:我们用的三个模型

箭头表示读取关系,不表示两条分支同时执行。
输入与理解动作/生成预测的未来画面

最关键的区别

π0.5:动作专家读取画面和指令信息,通常不显式生成未来视频。
Cosmos 3:未来画面与动作在生成分支内联合去噪,可以通过分支内注意力交换信息。
Long-WAM:动作专家读取视频专家的历史与未来表示;视频专家不反向读取动作。

图里的 L0 → L1 是什么?

每个方框代表一层 Transformer 的计算。竖线是隐状态继续传到下一层;横线是右侧通过注意力读取左侧信息。
K/V 可以理解为供右侧查询和读取的信息。右侧还会处理自己的隐状态,不是只复制左侧。