06 · OpenVLA:视觉、语言与动作接口
沿语言条件机器人策略追踪动作编码、归一化与本体差异。
先修:Transformer、模仿学习与机器人坐标系。
理解机制
OpenVLA 是从机器人示教训练的开放视觉语言动作模型。动作 token 接口明确连接语言模型骨干与物理控制。单靠语言指令无法定义执行器约定,必须记录输出是绝对位姿、增量、速度还是关节目标,使用哪个坐标系,以及夹爪数值如何解释。跨机器人迁移不仅需要视觉特征,还需要这些接口匹配。
Text / 原始公式
L = −Σⱼ log pθ(bⱼ | image, instruction, b<ⱼ)
â = a_min + (b + 1/2)(a_max − a_min)/K
b ∈ {0,…,K−1} [uniform-bin teaching example]学习指南与本课目录
LEARNING CONTRACT理解 → 实现 → 研究
目标:解释本课机制、复现一个例子、测试一个失败案例。读完不自动代表掌握。
- 理解层:写明假设、形状/单位和一个反例。
- 实现层:复算数值例子并检查边界。
- 研究层:在匹配预算下比较一个替代方法。
机制图与逐步推导
| 符号 | 含义 |
|---|---|
| b, K | 玩具编码器的动作 bin 索引与 bin 数 |
| a_min, a_max | 声明的动作范围;真实预处理须版本化 |
- 教学编码范围 [−1,1]、
、 时,解码 bin 中心得 0.00390625。 - bin 宽 0.0078125,忽略裁剪时 bin 内最大误差 0.00390625,单位取决于编码的动作。
- 10 Hz 下每步 1 厘米位移增量,与 1 厘米/秒速度指令不同。比较策略前先写清适配器契约。
微调前先做编码往返测试,检查饱和并在录制数据上验证动作单位。分别评价留出物体、指令和场景,编码器测试不等于模型评测。
原创面试练习与分析
先口述答案再展开分析,补充假设、反例和你会运行的测试。
语言预训练是否意味着物理落地能力?
不意味着。落地能力依赖示教、观察、本体和评测。用指令反事实与物体替换测试模型是否真正使用语言。
跨机器人迁移哪里容易坏?
相机几何、动作坐标、归一化、夹爪语义和时序都可能变化,应逐一审计,不能只归因于模型规模。
阅读一手来源
Token Lab 原创讲解与合成计算,不是机器人性能实测。来源链接核对于 2026-10-25,未锁版本的 arXiv 链接可能修订,复现时请记录版本。