VAE论文阅读

在网上看到的VAE解释，发现有两种版本：

1. 按照原来论文中的公式纯数学推导，一般都是了解生成问题的人写的，对小白很不友好。
2. 按照实操版本的，非常简单易懂，比如苏神的。但是却忽略了论文中的公式推导，导致论文中公式一点不懂。

下面是我对VAE的理解：

1 VAE生成模型的数学描述

我们见到的生成模型，一般都有这几个步骤：

1. 采样一个随机噪声（为啥要随机噪声，因为随机噪声我们是能获得的，调用一个torch.randn()就可以。)
2. 输入神经网络一通计算
3. 最后输出了图片。

这个过程应该怎么用数学描述呢？在VAE论文中是这样的：

作者的意思是整个模型分为两步：

1. 从一个先验分布中采样一个值z，对应之前的第一步
2. 从一个后验分布中生成一个值x，对应之前的第二步

模型可以描述为：

$$p_{\theta }(x)=\int p_{\theta }(z)p_{\theta }(x|z)dz$$

这里解释几点:

1. 生成模型为什么是一个概率密度呢，我希望直接有表达式，比如采样了一个噪声z，那么图片 X = g(z)，这样多好

其实有了概率密度，可以直接在里面采样。这里是推导过程，大家都这么写。在实际操作的时候，所有的p都会变成一个已知的分布，否则无法计算的。比如假如生成模型的表达式是：

$$p_{\theta }(x)=一些公式$$

这些公式计算后发现是一个高斯分布$N(\mu ,\sigma )$，那么操作的时候可以写为：
$$x=\mu +\sigma \epsilon$$
其中$ϵ$是随机采样的噪声。所以说，两种形式必须都能看懂才行。

2. 上面的式子含义是什么？

上面的式子中：$p_{\theta }(x)$是x的概率密度，它的含义是生成模型生成了值为x的样本的概率是多少。

PS 本文中所有的概率都应该是概率密度。但是为了便于理解，就当作概率来写了。

式子的右边是一个全概率公式，意思是计算生成样本x的概率，应该根据生成z的概率，和从z中计算出x的概率计算。

上面的式子其实涵盖了采样+通过采样的z计算x的过程。

2 VAE的损失函数

对生成函数建模后 ，下面考虑如何从z中计算x。下面先说明下实际操作是怎样的，然后结合着理解文中的数学公式。

这里借用了VAE原文中的图。z可以理解为噪声空间，x可以理解为生成的图片空间。这里训练分为两步。

1. 首先从样本中获得一个值x，然后通过神经网络计算出对应的z的分布(虚线)
2. 从z的分布中采样出一个z
3. 根据z重新计算出x(实线)

损失函数包含两项：

1. 重建的x和原始的x之间的差值
2. z的分布尽可能接近标准正态，因此使用了z的分布和标准正态的KL散度。

使用2的原因是：最终我们需要从标准正态中采样一个z，而不是从样本中计算z，因此让z的分布接近标准正态是为了采样时效果更好。

以上的过程非常符合直觉，遗憾的是这两项是通过数学推导出来的，VAE背景的论文中都会包含数学推导，看懂数学推导的大概意思是必不可少的。下面是推导过程：

VAE损失函数的数学推导

首先VAE模型的目标是最大化似然函数。这里可以理解为：有一个分布中，参数$\theta$是未知的，但是有一组采样结果$x_1,x_2,...,x_n$是已知的，似然函数表示了采样出这组结果的概率，但是包含了参数$\theta$。通过最大似然函数可以计算出$\theta$的取值。

似然函数的其他内容可以看这篇文章： 文章地址

这里和我们的情况很像：已有的数据可以看成是从一个分布中采样出来的，我们需要求解的是这个分布的参数。
在我们的问题中似然函数可以表示为：
$$\log p_{\theta }(x^{(1)},\cdot \cdot \cdot ,x^{(N)})=\sum _{i=1}^N\log p_{\theta }(x^{(i)})$$
用更加通俗的话来说就是：模型生成一个数据xi的概率是p(xi), 那么生成出所有数据的概率是p(x1)乘到p(xi)。但是p中有一个参数是未知的，x1到xi是已知的。现在这个参数应该取什么值才能让模型生成出x1到xi的概率最大呢？

求和其实用处不大，下面对某一个数据xi的损失函数进行计算：

$$\log p_{\theta }(x^{(i)})=D_{KL}(q_{\phi }(z|x^{(i)})||p_{\theta }(z|x^{(i)}))+L(\theta ,\phi ;x^{(i)})$$

其中：$$L(\theta ,\phi ;x^{(i)})=E_{q_{\phi }(z|x)}[-\log q_{\phi }(z|x)+\log p_{\theta }(x,z)]$$

上面这串到底怎么来的，本来就一个$p_{\theta }$好好的，怎么多了一个$q_{\varphi }$??

$q_{\varphi }$其实就是encoder，也就是如何把x反向映射到z上。简单来说，整个VAE的训练过程是：

1. 在p(z)中采样一个z (采样一个噪声)
2. 通过 $q_{\varphi }(z|x)$ 计算出x对应的z
3. 通过 $p_{\theta }(x|z)$ 计算出z对应的x

这里$p(x|y)$有两种理解方式：

1. 给定y之后x的概率是多少
2. 给定y之后如何计算x

由于有两个神经网络，所以自然有两个参数。这里p, q其实没什么区别，主要是参数的区别。

OK, 那么上面那个KL散度里面两个分布是怎么回事呢？

其实这个也挺魔幻的，大概就是如果我计算出了$\theta$：

1. $p_{\theta }(z)$，和$p_{\theta }(x|z)$就都是已知的
2. 那么其实$p_{\theta }(z|x)$也是已知的 (根据贝叶斯公式)
3. encoder $q_{\varphi }(z|x)$ 同时也描述了这个关系。那么这两个关系应该是接近的

换句话说，我知道了噪声z的分布，同时我有一个样本x，那么我有两种方式计算x对应的z。

1. 神经网络decodeer输入z，输出x，再加上贝叶斯公式就能告诉我们应该如何通过x计算z。
2. 神经网络encoder输入x，输出z，天然的告诉了我们如何通过x计算z。

这两个过程应该是一致的才行。比如给了一个x, 那么神经网络1+贝叶斯计算的z分布，应该和encoder计算出来的是一样的才行。

好吧，那么似然函数是怎么变成KL散度+ELBO的呢？

推导过程如下：

$$\begin{array}{rl}KL(q_{\varphi }(z|x)||p_{\theta }(z|x))& =\int q_{\varphi }(z|x)\log \frac{q_{\varphi }(z|x)}{p_{\theta }(z|x)}dz\\ & =\int q_{\varphi }(z|x)\log q_{\varphi }(z|x)dz-\int q_{\varphi }(z|x)\log p_{\theta }(z|x)dz\\ & ={\mathbb{E}}_{q_{\varphi }(z|x)}[\log q_{\varphi }(z|x)]-\int q_{\varphi }(z|x)\log p_{\theta }(z,x)dz+\int q_{\varphi }(z|x)\log p_{\theta }(x)dz\\ & ={\mathbb{E}}_{q_{\varphi }(z|x)}[\log q_{\varphi }(z|x)]-{\mathbb{E}}_{q_{\varphi }(z|x)}[\log p_{\theta }(z,x)]+{\mathbb{E}}_{q_{\varphi }(z|x)}\log p_{\theta }(x)\\ & =-ELBO+\log p_{\theta }(x)\end{array}$$

经过变换就可以获得似然函数如何表示为KL散度+ELBO的了。

VAE损失函数的数学推导（续）

重写表示了似然函数之后，其实只需要关心ELBO即可，因为KL散度是恒大于0，并且非常难计算，因此最大化似然函数，其实是最大化ELBO罢了。

下面重新改下ELBO：

$$\begin{array}{rl}ELBO& =-{\mathbb{E}}_{q_{\varphi }(z|x)}[\log q_{\varphi }(z|x_i)]+{\mathbb{E}}_{q_{\varphi }(z|x)}[\log p_{\theta }(z,x_i)]\\ & =-{\mathbb{E}}_{q_{\varphi }(z|x)}[\log q_{\varphi }(z|x_i)]+{\mathbb{E}}_{q_{\varphi }(z|x)}[\log p_{\theta }(z)p_{\theta }(x_i|z)]\\ & =-{\mathbb{E}}_{q_{\varphi }(z|x)}[\log q_{\varphi }(z|x_i)]+{\mathbb{E}}_{q_{\varphi }(z|x)}[\log p(z)]+{\mathbb{E}}_{q_{\varphi }(z|x)}[\log p_{\theta }(x_i|z)]\\ & =-KL(q_{\varphi }(z|x_i)||p(z))+{\mathbb{E}}_{q_{\varphi }(z|x)}[\log p_{\theta }(x_i|z)]\end{array}$$

可以看出新的ELBO具有两部分，

1. 后面一部分可以看作从 x -> q -> z -> x 的过程（这是因为z符合的是q的分布），似然函数需要最大。因此我们最小化了重构损失，这和目标1是一致的。
2. 前面一部分可以看作是encoder生成的z必须和z的原始分布相近，在实际中就是encoder通过x计算出的z必须符合正态分布。和我们之前的目标2是一致的

通过不断努力，我们终于从直觉上以及数学上解释了VAE的损失函数构成！