Token Lab搜索

← Physical AI · 机器人
PHYSICAL AI / 6 OF 8

06 · OpenVLA:视觉、语言与动作接口

沿语言条件机器人策略追踪动作编码、归一化与本体差异。

先修:Transformer、模仿学习与机器人坐标系。

理解机制

OpenVLA 是从机器人示教训练的开放视觉语言动作模型。动作 token 接口明确连接语言模型骨干与物理控制。单靠语言指令无法定义执行器约定,必须记录输出是绝对位姿、增量、速度还是关节目标,使用哪个坐标系,以及夹爪数值如何解释。跨机器人迁移不仅需要视觉特征,还需要这些接口匹配。

Text / 原始公式
L = −Σⱼ log pθ(bⱼ | image, instruction, b<ⱼ)
â = a_min + (b + 1/2)(a_max − a_min)/K
b ∈ {0,…,K−1}  [uniform-bin teaching example]
学习指南与本课目录LEARNING CONTRACT

理解 → 实现 → 研究

目标:解释本课机制、复现一个例子、测试一个失败案例。读完不自动代表掌握。

  • 理解层:写明假设、形状/单位和一个反例。
  • 实现层:复算数值例子并检查边界。
  • 研究层:在匹配预算下比较一个替代方法。

机制图与逐步推导

图像、指令与状态契约 → 视觉语言表示 → 动作 token 解码 → 机器人适配器与反馈
原创机制示意图,按从上到下顺序阅读。 SVG ↓
符号与假设
符号含义
b, K玩具编码器的动作 bin 索引与 bin 数
a_min, a_max声明的动作范围;真实预处理须版本化
  1. 教学编码范围 [−1,1]、、 时,解码 bin 中心得 0.00390625。
  2. bin 宽 0.0078125,忽略裁剪时 bin 内最大误差 0.00390625,单位取决于编码的动作。
  3. 10 Hz 下每步 1 厘米位移增量,与 1 厘米/秒速度指令不同。比较策略前先写清适配器契约。
实验检查点

微调前先做编码往返测试,检查饱和并在录制数据上验证动作单位。分别评价留出物体、指令和场景,编码器测试不等于模型评测。

原创面试练习与分析

先口述答案再展开分析,补充假设、反例和你会运行的测试。

语言预训练是否意味着物理落地能力?

不意味着。落地能力依赖示教、观察、本体和评测。用指令反事实与物体替换测试模型是否真正使用语言。

跨机器人迁移哪里容易坏?

相机几何、动作坐标、归一化、夹爪语义和时序都可能变化,应逐一审计,不能只归因于模型规模。

阅读一手来源

OpenVLA ↗ · arXiv PDF ↗

Token Lab 原创讲解与合成计算,不是机器人性能实测。来源链接核对于 2026-10-25,未锁版本的 arXiv 链接可能修订,复现时请记录版本。

MATHEMATICAL REVIEW · 2026-10-26

假设、参考实现与验收

动作分箱量化规范化坐标。半格误差界依赖最近格点舍入,并需考虑边界/裁剪。预测 token 不保证标定、控制稳定或安全。

已复核公式条件、单位及算例。实现隔离一个数值机制,不训练完整策略,也不控制真实硬件。

运行前:预测一个边界情况

在取值范围内,最近格点舍入的绝对误差不超过半个步长。

提示:隔离假设

固定基线输入,只改变一个参数或边界;同时比较数值与声明单位。单例通过仅验证该样例。

最小可运行算例

将算例及所链接模块保存在同一目录。使用 Node.js 22 或更高版本,然后运行 node vla-openvla.mjs. 无需第三方运行依赖。

const solve=()=>{
const lo=-1,hi=1,bins=5,value=.3;
const step=(hi-lo)/(bins-1), index=Math.round((value-lo)/step);
return [index,lo+index*step,step/2];
};
const actual=solve();
const expected=[3,0.5,0.25];
if(JSON.stringify(actual)===JSON.stringify(expected)){console.log('PASS',actual)}else{
const a=[actual].flat(), b=[expected].flat();
if(a.length!==b.length||a.some((v,i)=>!Number.isFinite(v)||Math.abs(v-b[i])>1e-10))throw Error('Numerical mismatch');
console.log('PASS within 1e-10',actual);
}
参考输出——先预测再展开
[
  3,
  0.5,
  0.25
]

测试与迁移

在取值范围内,最近格点舍入的绝对误差不超过半个步长。

在下方笔记记录输入、代码版本、期望值和实测值;再构造违反上述假设的反例,解释原结论为何不再成立。

下载完整代码包(.tar.gz) · 完整参考代码与回归检查

预测、检验与证据记录

展开答案前先预测一个结果;练习后记录差异和迁移测试。记录仅存本地,在不同语言版本间共用。

打开记录/导出/清除 →

数学复核范围逐篇记录,不代表完成论文实证复现;可在笔记中记录疑似错误。 复核范围