【深度学习】16. Deep Generative Models：生成对抗网络（GAN）

Deep Generative Models：生成对抗网络（GAN）

什么是生成建模（Generative Modeling）

生成模型的主要目标是从数据中学习其分布，从而具备“生成”数据的能力。两个关键任务：

• 密度估计（Density Estimation）：学习真实数据的概率分布 $p(x)$。
• 样本生成（Sample Generation）：从模型学习的分布中采样，生成新样本。

换句话说，生成建模不是仅预测标签，而是要建模整个数据的生成过程，使模型能“想象”并产生新的样本。

图示说明了输入图像 $x$ 是由真实分布 $p(x)$ 生成的。我们希望构建一个模型，也能从噪声或潜变量中生成具有相同分布的新样本。

为什么研究生成建模？

逼真的生成任务

• 模拟可能的未来规划（如股票市场）

• 训练生成模型还可以对潜在表征进行推理，这些潜在表征可以作为通用特征

从多个角度说明生成模型的重要性：

• 潜变量结构学习：生成模型能够发现数据中的隐藏因素，如风格、姿态、语义等。
• 半监督学习能力强：即使标签很少，也可以利用未标注数据学到有意义的表示。
• 数据建模能力强：可用于数据修复、风格迁移、图像翻译、图像上色等任务。
• 表示学习（Representation Learning）：通过对输入数据建模，生成模型学到的特征常常可迁移用于其他任务。
• 未来模拟与预测：如视频预测、图像到视频生成等。

什么是生成对抗网络（GAN）

生成对抗网络是一种重要的深度生成模型，由两个神经网络组成：

• 生成器 $G$：从随机变量（noise） $z\sim p(z)$ 生成图像 $G(z)$。
• 判别器 $D$：判断图像 $x$ 是否来自真实数据分布 $p_{data}(x)$。

二者的训练过程是一个博弈（对抗）过程。

GAN 的目标函数

GAN 的优化目标是一个极小极大问题：

${\min }_G{\max }_{D}V(D,G)={\mathbb{E}}_{x\sim p_{data}(x)}[\log D(x)]+{\mathbb{E}}_{z\sim p(z)}[\log (1-D(G(z)))]$

含义如下：

• 第一项鼓励判别器 $D$ 对真实图像 $x$ 输出概率越接近 $1$ 越好；
• 第二项鼓励判别器对生成图像 $G(z)$ 输出概率越接近 $0$ 越好；
• D的目标：最大化目标，使D(x)接近于1（真实），D（G(z)）接近于0（假）
• G的目标：最小化目标，使D（G(z)）接近于1（鉴别器被骗以为生成的G(z)是真实的）

因此，判别器和生成器是两个对手：

• 判别器 $D$ 试图区分真假；
• 生成器 $G$ 则试图以假乱真。

当博弈达到平衡时，判别器无法分辨真假图像，即 $D(G(z))=0.5$。

GAN 的训练直观理解

输入是noise，给到G，generated image + real image data as input,两个输入。D用来做binary classification.

可以将 GAN 的训练比喻为“造假者 vs 警察”的博弈：

• 初始时，生成器 $G$ 生成的图像非常粗糙，容易被判别器 $D$ 识别；
• 随着训练进行，$G$ 不断改进生成策略，$D$ 也在不断提升识别能力；
• 最终双方达到均衡，$G$ 的输出与真实数据无法区分，$D$ 的输出变成 $0.5$。

GAN 的总目标函数

生成器和判别器之间的博弈关系形式化为一个极小极大的对抗优化问题：

${\min }_G{\max }_{D}V(D,G)={\mathbb{E}}_{x\sim p_{data}(x)}[\log D(x)]+{\mathbb{E}}_{z\sim p(z)}[\log (1-D(G(z)))]$

这个公式表示：

• 判别器试图最大化该表达式，正确区分真实图像和伪造图像；
• 生成器试图最小化该表达式，让伪造图像也被判断为真实；
• 最终博弈平衡点是 $p_g(x)=p_{data}(x)$ 且 $D(x)=0.5$。

交替训练策略（Alternate Optimization）

为了求解上述极小极大问题，采用以下 交替更新策略：

1. Gradient Ascent on D

固定生成器参数 ${\theta }_g$，更新判别器参数 ${\theta }_d$，最大化以下目标：

${\max }_{{\theta }_d}\left[{\mathbb{E}}_{x\sim p_{data}}\log D_{{\theta }_d}(x)+{\mathbb{E}}_{z\sim p(z)}\log (1-D_{{\theta }_d}(G_{{\theta }_g}(z)))\right]$

也就是说：

• 判别器希望对真实样本 $x$ 输出接近 $1$；
• 对伪造样本 $G(z)$ 输出接近 $0$；
• 因为目标是最大化，所以需要对判别器使用 梯度上升。

2. Gradient Descent on G

固定判别器参数 ${\theta }_d$，优化生成器参数 ${\theta }_g$，最小化如下损失函数：

$ \min_{\theta_g} \mathbb{E}{z \sim p(z)} \log(1 - D{\theta_d}(G_{\theta_g}(z))) $

这个目标使得生成器试图提升 $D(G(z))$，让判别器认为伪造图像也是真实的，即：

• 尽可能让 $D(G(z))\to 1$；
• 所以生成器使用 梯度下降 来最小化该损失。

但注意，这一损失可能在训练初期导致梯度消失，因此实际训练中常采用非饱和形式（non-saturating loss）：

${\min }_{{\theta }_g}-{\mathbb{E}}_{z\sim p(z)}\log D_{{\theta }_d}(G_{{\theta }_g}(z))$

算法流程

外层：训练轮数

for number of training iterations do

对所有训练轮数重复执行以下步骤（每轮包括 $k$ 次判别器更新 + 1 次生成器更新）。

内层：判别器更新（k 次）

for k steps do

每轮训练中先更新 $k$ 次判别器，$k$ 是一个超参数（原论文中使用 $k=1$，以节省计算资源）。

每次判别器更新包含以下步骤：

1. 采样 $m$ 个噪声样本：
   $ {z^{(1)}, \dots, z^{(m)}} \sim p_g(z) $

2. 采样 $m$ 个真实样本：
   $ {x^{(1)}, \dots, x^{(m)}} \sim p_{data}(x) $

3. 更新判别器参数（梯度上升）：

   $${\nabla }_{{\theta }_d}\frac{1}{m}\sum _{i=1}^m\left[\log D(x^{(i)})+\log (1-D(G(z^{(i)})))\right]$$

此步骤最大化判别器输出正确分类的概率：真实图像输出高，伪造图像输出低。

end for

生成器更新（1 次）

1. 采样 $m$ 个噪声样本：
   $ {z^{(1)}, \dots, z^{(m)}} \sim p_g(z) $

2. 更新生成器参数（梯度下降）：

   $${\nabla }_{{\theta }_g}\frac{1}{m}\sum _{i=1}^m\log \left(1-D(G(z^{(i)}))\right)$$

GAN 的训练过程可视化示例：A Simple Example

简单而直观的 1 维高斯分布示例，帮助我们理解 GAN 的对抗训练过程是如何逐步推进的。

图中包括四个子图（a）到（d），展示了生成分布 $p_g$ 如何逐步接近真实分布 $p_{data}$，以及判别器 $D(x)$ 的输出如何随着训练而变化。

图中元素说明

• 黑色虚线：真实数据分布 $p_{data}(x)$；
• 绿色曲线：生成器生成的分布 $p_g(x)$；
• 蓝色曲线：判别器的输出 $D(x)$，即当前判别器认为输入来自真实数据的概率；
• 横轴：样本空间 $x$；
• 下方横线：表示潜变量 $z$ 的均匀分布域；
• 向上箭头：生成器 $G(z)$ 将均匀分布映射到数据空间。

(a) 初始状态

• 真实数据分布 $p_{data}(x)$ 和生成分布 $p_g(x)$ 相差很远；
• 判别器 $D(x)$ 在真实样本处输出接近 1，在伪造样本处输出接近 0；
• 说明判别器能很好地区分真假样本。

(b) 中间阶段

• 生成器开始学习，$p_g(x)$ 向 $p_{data}(x)$ 靠近；
• 判别器 $D(x)$ 的输出逐渐平滑，对部分区域开始感到“困惑”；
• 说明生成器在某些区域已能成功欺骗判别器。

© 接近收敛

• 生成分布 $p_g(x)$ 与真实分布 $p_{data}(x)$ 几乎重合；
• 判别器输出趋近于 $0.5$，无法有效判断真假；
• 判别器的能力已接近上限。

(d) 理想收敛状态

• $p_g(x)=p_{data}(x)$；
• 判别器对所有 $x$ 的输出都为 $D(x)=0.5$；
• 说明两分布完全一致，GAN 达到理论最优状态。

下方生成机制解释

• 均匀采样 $z$：例如在 $[-1,1]$ 区间；
• 生成器 $G$ 将 $z$ 映射为 $x=G(z)$；
• 当 $G(z)$ 映射集中于高密度区域时，对应图中箭头密集；
• 当 $G$ 映射至低密度区域，箭头稀疏。

文本解析与结论

文中说明如下关键结论：

• 判别器 $D$ 学习输出概率来识别样本真假；
• 生成器 $G$ 调整生成分布，使其逐步逼近真实分布；
• 当 $p_g=p_{data}$ 时，GAN 达到 Nash 均衡；
• 判别器无法区分两者，输出恒为 $D(x)=0.5$；
• 此时训练达成目标，GAN 成功生成真实感极强的样本。

核心公式

生成器定义为一个可微分函数：

$x=G(z;{\theta }^{(G)})$

其中：

• $z$ 是从先验分布 $p(z)$（通常为均匀分布或高斯分布）中采样的随机变量；
• ${\theta }^{(G)}$ 是生成器的参数；
• $x$ 是生成样本，输出空间与真实数据空间相同；
• $G$ 是一个可微的神经网络，用于将潜变量 $z$ 映射为样本 $x$。

关键属性

• 无需显式写出 $p_g(x)$ 的公式；
• 只需构建一个能够从 $p_g$ 分布中采样的生成器 $G$；
• 只要 $G$ 可微，就可以使用梯度优化进行训练；
• 这种方式称为隐式建模，相比显式建模（如 VAE）不要求明确分布函数。

GAN 的目标

我们有来自真实分布 $p_r$ 的训练数据，目标是训练一个生成模型，使得其输出服从 $p_g$，并且有：

$p_g\approx p_r$

也就是说，我们不关心生成器输出的分布公式长什么样，只需要它能“以假乱真”。