共同点相似,内部连接不一样
① 直接生成动作
画面+指令
↓
一个 Transformer 主干
↓
动作 token → 动作
不必单独设置动作专家
② 理解+动作专家
画面+指令
↓
理解模块(VLM)
↓ 读取内部信息
动作专家 → 动作
π0.5:读取对应层的 K/V
③ 未来预测+动作
画面+指令
↓
预测未来画面
↕ 或单向传递信息
生成动作
Cosmos:联合生成
Long-WAM:视频 → 动作
这些是简化分类,可以重叠;不是所有模型都采用“左右两支、逐层 K/V”连接。
OpenVLA 与 π0.5:同样的画法
OpenVLA 原版
Llama 2 7B 主干 32 层 · L0–L31
一套主干直接预测动作 token,没有另一列独立动作专家。
① 展开看:OpenVLA 如何直接生成动作?
两种 token 一起送入 ↓
语言模型主干(Llama 2 7B)
多层注意力+FFN
逐个预测下一个 token ↓
动作 token 序列
[移动 X] [移动 Y] [移动 Z] [旋转…] [夹爪]
查分档数值+反归一化 ↓
机器人控制量
平移、旋转、夹爪开合 → 执行
动作 token 是数值的编码,不是“向左”“抓住”这样的自然语言命令。主干后面不需要再接一个扩散动作专家;视觉编码器仍然存在。
OpenVLA 原版
动作数值分档
↓
预测对应的离散 token
官方架构
π₀-FAST
一段动作压缩编码
↓
生成 token → 解码整段动作
不是我们使用的 π0.5 动作专家结构。官方介绍
VLA-0
动作编码成整数文本
↓
原有文字 token → 动作数值
不新增动作词表;仍需机器人数据训练。官方介绍
② / ③ 展开看:我们用的三个模型
箭头表示读取关系,不表示两条分支同时执行。
输入与理解动作/生成预测的未来画面
最关键的区别
π0.5:动作专家读取画面和指令信息,通常不显式生成未来视频。
Cosmos 3:未来画面与动作在生成分支内联合去噪,可以通过分支内注意力交换信息。
Long-WAM:动作专家读取视频专家的历史与未来表示;视频专家不反向读取动作。
图里的 L0 → L1 是什么?
每个方框代表一层 Transformer 的计算。竖线是隐状态继续传到下一层;横线是右侧通过注意力读取左侧信息。
K/V 可以理解为供右侧查询和读取的信息。右侧还会处理自己的隐状态,不是只复制左侧。