扩散模型公式推导

这篇文章将尝试推导扩散模型 DDPM 中涉及公式，主要参考两个 B 站视频：

1. 大白话AI
2. 狗中赤兔

本文所用 PPT 元素均来自 UP 主，狗中赤兔和大白兔AI，特此感谢。
在证明开始，我们需要先对扩散模型有一个整体的认知。扩散模型通常由①前向的加噪过程②逆向的去噪过程构成。如下图所示：

从左到右是 加噪过程，从右到左是 去噪过程。
我们在上一篇文章中，已经像大家介绍了扩散模型的基本原理（这篇）

我们通过简单的表征模块搭建简单的去噪模型，在 MNIST 手写体数据集上搭建了多步去噪模型。相信上述 demo 可以帮助大家理解扩散模型主要工作流程。这篇文章，我们将尝试证明其背后的数学原理。

加噪过程

证明什么？

扩散模型加噪过程就是从原始图片开始，逐步向其中添加噪声，直至图片完全模糊。我们首先使用数学公式表述这一过程。

汇总一下已知的条件：

• 扩散过程符合马尔科夫随机过程，每一步均仅和上一步有关
  $$q(x_t|x_{t-1})=\mathcal{N}(\sqrt{1-{\beta }_t}{x}_{t-1},{\beta }_{t}I)$$
• 每一步中添加的噪声均是从高斯分布中抽取的随机数，即
  $$x_t=\sqrt{1-{\beta }_t}{x}_{t-1}+\sqrt{{\beta }_t}\cdot ϵ$$

注意，噪声和源图片是掺杂的状态，掺杂比例平方和是 1，大家可以到 这个网站 感受一下。

我们已经知道了前向过程是一个马尔科夫链，并知道了每一步添加的噪声服从高斯分布。那么，是否有可能从最开始原始状态直接加噪到特定时间步所处状态呢？即，证明，$$q(x_t|x_0)=\mathcal{N}(C_{t2}{x}_0,C_{t1}I)$$
$$x_t=C_{t2}{x}_0+C_{t1}\cdot ϵ$$

证明过程

首先，我们定义两个马尔科夫链，然后将式2带入式1，并进行化简。注意到，两个随机噪声可以进行合并，这里运用了高斯分布两个特殊性质：

1. 一个随机数是从标准高斯分布中采样得到的，对这个随机数乘以一个不为零的常数，相乘结果依然是高斯分布
   
2. 两个随机数分别从两个独立高斯分布中抽取得到，两数相加所得结果依然服从高斯分布
   
   详细证明过程如下：
   
   上述证明结果表示，任一时间步的加噪状态可以由初始照片通过一步加噪得到。注意到，加噪过程是不涉及神经网络的，不需要进行网络训练。此外，我们的 ${\overline{\alpha }}_t$ 是由 ${\alpha }_1{\alpha }_2\dots {\alpha }_t$ 连乘得到的。这些数均是小于 1 的正数，所以当扩散步数足够多时，$x_t$ 将被噪声淹没，变成一张完全遵从高斯分布的噪声。

去噪过程

证明什么？

在上一篇文章中，我们实现了多步迭代去噪模型。该模型可看作扩散模型的原型，简单直接的展示了扩散模型的主要工作原理。但是在真实的扩散模型设计中，逆向去噪会更加复杂一些。如下图所示：

我们希望以加噪图片为输入，让模型预测所加噪声或者去噪后的图像，用数学表达式表示则为：
$$p_{\theta }(x_{t-1}|x_t)$$
既然要训练神经网络拟合这一分布，那么，一个很自然的问题是，这一分布的表达式是什么？
为了回答这一问题，我们首先汇总一下已知条件：

• 去噪过程遵循马尔科夫过程，每一步去噪只与当前状态有关
• 由上一小节可得，每一步加噪状态均可由原始图像通过一步加噪得到

下面，我们将尝试回答神经网络需要拟合的表达式是什么？

证明过程

在开始之前，我们先来复习下贝叶斯定理

贝叶斯定理的好处是，可以将复杂概率问题拆分成已知的简单概率问题的组合。
上述将要求解的$$p(x_{t-1}|x_t)$$可以使用贝叶斯定理进行化简：

进一步的，我们可以给式中各项添加 $x_0$

此处左式和右式左上方中的 $x_0$ 可以近似忽略，现在我们将注意力放在等式右边的三个表达式上。
在上一节中，我们证明了，①任意时间步的带噪图像均可由原始图像一步加噪得到，这一噪声符合高斯分布；②任意时间步的带噪图像可由前一步图像加噪得到，这一噪声也符合高斯分布。这两点用公式表示如下：

等式右边的三个表达式可通过上述两个公式（及其一个拓展）得到，因为理论上，上两式是对一个来自高斯分布的随机数进行线性变换，所以变换结果也应遵从高斯分布：

下面就是将右式中的三个表达式代入高斯分布下的表达，并进行合并化简。
化简过程十分复杂，我们只需要知道能化简，而且化简结果也是一个高斯分布：

再回头看：

我们的逆向过程是希望在已知 $x_T$（which is a 高斯噪声）的情况下，通过去噪神经网络一步步倒推回去，得到 $x_0$
我们经过复杂推导，得到了神经网络的表达式

但该表达式中，含有我们想要求解的 $x_0$，所以我们需要进一步将 $x_0$ 替换掉
我们对上一节证明的，$x_0$ 和 $x_T$ 之间的关系式进行变形，代入主表达式：

化简得到最终结果：

此时，我们终于有了一个 “知道 $x_t$ 值即可求得 $x_{t-1}$ 值的关系式” 了。这个关系式就是我们所谓的去噪网络

但是，注意到，该关系式并不是一个确定的概率分布，其中还有一个随机数 $ϵ$ 。当这个随机数确定的时候，我们才能真正敲定该概率分布。
众所周知，神经网络是黑箱拟合一切难题的法宝，所以我们将预测随机数的任务就交给神经网络。

公式推导到这里，所谓去噪网络的功能发生了一点点变化。一开始，我们的想法是，输入带噪图像，输出干净图片：

现在变成了，输入带噪图像，预测噪声 $ϵ$ ，将该噪声代入表达式：

得到基于带噪图片向前推理的概率分布，最后，我们再从该分布中抽取一张图片。逻辑链如下所示：

最后遗留的小问题：去噪过程最开始，如何拿到 $x_T$ 呢？在上一小节末尾，我们提到，当一个照片加噪次数足够多时，带噪图片将变成一张高斯噪声。因此，我们将随机高斯噪声作为 $x_T$ 即可。

训练过程

写到这里，相信大多数读者都和我一样感到疲惫，但事实上，扩散模型最难的理论部分才刚刚开始。这一部分在下面两个视频中有讲解：

1. 狗中赤兔
2. 梗直哥

此处仅放出训练神经网络的误差函数：

其中 ${ϵ}_{\theta }$ 是神经网络预测的噪声，$ϵ$ 是服从高斯分布的随机噪声（真实噪声），t 是时间步
将上述几个变量代入误差函数即可得到神经网络真正的优化目标。

希望读到这里的读者能锲而不舍，继续推导相关公式，俺退了，祝好！