5. 牢记5个重要公式2025-08-11

Diffusion模型的核心原理围绕“前向加噪”和“反向去噪”两个过程展开,以下是5个最关键的公式及其含义:

1. 前向扩散过程的递推关系

公式
\mathbf{x}_t = \sqrt{\alpha_t} \cdot \mathbf{x}_{t-1} + \sqrt{1 - \alpha_t} \cdot \boldsymbol{\epsilon}_{t-1}, \quad \boldsymbol{\epsilon}_{t-1} \sim \mathcal{N}(0, \mathbf{I})

含义
前向过程是从原始数据\mathbf{x}_0逐步添加标准高斯噪声的马尔可夫链。其中:

  • t表示扩散步骤(t=0为原始数据,t=T为纯噪声);
  • \alpha_t = 1 - \beta_t\beta_t \in (0,1)是预设的噪声系数(随t增大而增大);
  • \boldsymbol{\epsilon}_{t-1}是标准高斯噪声。
    每一步通过线性组合\mathbf{x}_{t-1}和噪声,使数据逐渐“退化”为噪声。

进一步地, 前向过程的边缘分布

公式
\mathbf{x}_t = \sqrt{\overline{\alpha}_t} \cdot \mathbf{x}_0 + \sqrt{1 - \overline{\alpha}_t} \cdot \boldsymbol{\epsilon}, \quad \boldsymbol{\epsilon} \sim \mathcal{N}(0, \mathbf{I})

含义
由于前向过程是高斯马尔可夫链,可直接从\mathbf{x}_0计算任意t时刻的\mathbf{x}_t(无需递推)。其中:

  • \overline{\alpha}_t = \prod_{s=1}^t \alpha_s(累积乘积,随t增大而减小);
  • t=T时,\overline{\alpha}_T \approx 0\mathbf{x}_T \approx \boldsymbol{\epsilon}(纯噪声)。

2. 优化目标(最大似然估计)

最大化ELBO,即最小化相应KL散度。
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容