Timestep conditioning 指把时间步 (t) 编码后注入模型。最简单的方式是在输入端拼接或相加; 更深的方式是让 (t) 调制每一层的 normalization、gate 或 residual update。
在 π₀.₅ 的 Action Expert 中,可以从结构上把 timestep 看成每一层计算方式的控制信号。
关键洞察
timestep conditioning 的关键问题不是“模型是否看见 t”,而是“t 在网络的哪个深度、以什么方式影响计算”。
将 diffusion 或 flow timestep 注入模型,使网络能根据当前生成阶段改变计算。
Timestep conditioning 指把时间步 (t) 编码后注入模型。最简单的方式是在输入端拼接或相加; 更深的方式是让 (t) 调制每一层的 normalization、gate 或 residual update。
在 π₀.₅ 的 Action Expert 中,可以从结构上把 timestep 看成每一层计算方式的控制信号。
timestep conditioning 的关键问题不是“模型是否看见 t”,而是“t 在网络的哪个深度、以什么方式影响计算”。