Concept

π₀.₅ Action Expert

π₀.₅ 中负责动作生成的 expert,在本文语境中通过 adaRMS 接收 timestep 条件调制。

pi0.5 Action Expertpi0.5 动作专家π₀.₅ 动作专家

π₀.₅ Action Expert 是本文讨论 adaRMS 的具体位置。它接收 noisy action 表示, 并通过 timestep-conditioned adaRMS 在每个 Transformer block 内部调制计算。

从 residual stream 的角度看,Action Expert 的每一层都可以根据 timestep 决定如何读取当前状态, 以及向状态写回多少更新。