π₀.₅ Action Expert 是本文讨论 adaRMS 的具体位置。它接收 noisy action 表示, 并通过 timestep-conditioned adaRMS 在每个 Transformer block 内部调制计算。
从 residual stream 的角度看,Action Expert 的每一层都可以根据 timestep 决定如何读取当前状态, 以及向状态写回多少更新。
π₀.₅ 中负责动作生成的 expert,在本文语境中通过 adaRMS 接收 timestep 条件调制。
π₀.₅ Action Expert 是本文讨论 adaRMS 的具体位置。它接收 noisy action 表示, 并通过 timestep-conditioned adaRMS 在每个 Transformer block 内部调制计算。
从 residual stream 的角度看,Action Expert 的每一层都可以根据 timestep 决定如何读取当前状态, 以及向状态写回多少更新。