Diffusion model 可以理解为先设计一个 forward noising process,把数据逐渐扩散到简单噪声分布, 再训练模型学习反向生成过程。
在线性高斯设定里,许多小步噪声可以压缩成:
这解释了训练时为什么可以直接采样 和 构造 , 而不需要真的从 到 跑很多步 forward diffusion。
关键洞察
一个数据点在固定时间 上不是沿唯一轨迹运动,而是对应一个以 为中心的 Gaussian cloud。
通过加噪过程把数据分布变成简单噪声分布,再学习反向生成过程的生成模型。
Diffusion model 可以理解为先设计一个 forward noising process,把数据逐渐扩散到简单噪声分布, 再训练模型学习反向生成过程。
在线性高斯设定里,许多小步噪声可以压缩成:
这解释了训练时为什么可以直接采样 和 构造 , 而不需要真的从 到 跑很多步 forward diffusion。
一个数据点在固定时间 上不是沿唯一轨迹运动,而是对应一个以 为中心的 Gaussian cloud。