Concepts
概念
概念页会根据 frontmatter 自动聚合相关文章、学习线程和相关概念。
Action Rate Multimodality
同一条空间轨迹被以不同速度执行，在固定长度的 action chunk 里变成完全不同的监督标签；属于应当纠偏而非保留的伪多模态。
adaptive normalization
由条件向量动态生成 scale、shift 或 gate 等调制参数的归一化方式。
adaRMS
一种自适应 RMS 风格归一化，用条件上下文调制归一化后的隐藏状态。
Advantage
A(s,a)=Q(s,a)-V(s)，衡量某个动作相对当前 policy 平均水平好多少；不是时间方向上的价值差分。
Attention Mask
定义 Transformer 中 Query-Key 二维关系的矩阵，控制哪些 token 可以互相通信
Behavior Cloning
把策略学习当成监督学习：直接拟合专家在示教状态下的动作，不需要 reward。
Block-Causal Attention
将序列划分为多个 block，同一 block 内双向可见，不同 block 间保持 causal 关系
Brownian motion
连续时间随机过程，增量独立且满足高斯分布，是 SDE 中 dW_t 的来源。
conditional action distribution
给定 observation 和 task/subtask 条件后，机器人数据中合理 action chunk 的经验分布。
DAgger
Dataset Aggregation：让 learner 自己 rollout，再由专家在这些状态上重新标注动作，把训练分布拉回 learner 真正会访问的状态。
Diffusion model
通过加噪过程把数据分布变成简单噪声分布，再学习反向生成过程的生成模型。
Distribution Shift
训练时的 state 分布来自专家，部署时来自 learner 自己；两者分叉会让单步误差沿时间放大成 compounding error。
Flow Matching
一类学习连续变换速度场的生成建模方法，常用于从带噪样本逐步生成目标样本。
LayerNorm
一种在隐藏维度上对激活值做中心化和重新缩放的归一化方法。
Offline RL
从固定数据集中利用 reward 学习 Q/V/Advantage，进而做 policy improvement，同时约束策略不要远离 dataset support。
OOD Action
落在数据集动作支撑之外的动作；函数逼近器在这些位置的 Q 估计只是 extrapolation error，offline 时没有环境反馈能纠正它。
Padding Mask
过滤序列中的 padding token，防止它们参与 Attention 计算和污染 Position Encoding
Policy Improvement
依据 value 把策略推向比数据本身更优的动作；它是区分 imitation 和 reinforcement 的判据。
Post-Norm
一种 transformer block 布局：先做 residual addition，再对相加结果做 normalization。
Pre-Norm
一种 transformer 模块布局：归一化发生在注意力或 MLP 更新之前。
Prefix-LM
一种混合 Attention 模式，prefix 内双向交互，后续生成保持 causal，常用于多模态条件生成
residual connection
将子模块输出作为增量加回输入的连接方式，是深层网络稳定训练的重要结构。
Residual Stream
transformer 模块共同读取并通过残差加法持续更新的隐藏表示。
RMSNorm
一种不减均值、只用均方根重新缩放向量的归一化方法。
Stochastic Differential Equation
同时包含确定性 drift 和随机 Brownian 增量的连续时间动力系统。
timestep conditioning
将 diffusion 或 flow timestep 注入模型，使网络能根据当前生成阶段改变计算。
Value Function
对 return 取期望得到的长期价值：V(s) 衡量状态整体值多少，Q(s,a) 衡量在该状态下某个具体动作值多少。
π₀
Physical Intelligence / OpenPI 系列中的模型变体，在本文语境中主要作为 π₀.₅ timestep 注入方式的对比对象。
π₀.₅
Physical Intelligence / OpenPI 系列中的模型变体，使用更深入的 timestep conditioning 控制 Action Expert。
π₀.₅ Action Expert
π₀.₅ 中负责动作生成的 expert，在本文语境中通过 adaRMS 接收 timestep 条件调制。