GAN和CycleGAN

本BLOG是个人文章阅读和知识积累，有很多的相关基础知识介绍，小白可放心食用。但由于都是手打的，如果存在问题请联系修改，有的地方博主可能也会有疑问，标出的地方有懂的大佬可留言讨论。当前整理了GAN和CycleGAN的相关内容，接下来还会整理WGAN等内容。

1. GAN 《Generative Adversarial Nets》

Ian J. Goodfellow, Jean Pouget-Abadie, Yoshua Benjio etc.

https://dl.acm.org/doi/10.5555/2969033.2969125

1.1 相关概念

生成模型：学习得到联合概率分布$P(x,y)$,即特征x和标签y同时出现的概率，然后可以求条件概率分布和其他概率分布。学习到的是数据生成的机制。

判别模型: 学习得到条件概率分布$P(y|x)$，即在特征x出现的情况下标记y出现的概率

学习一个分布和近似一个分布？

1.2 公式理解

GAN的损失函数：
$$\underset{G}{\min }\underset{D}{\max }V(D,G)=E_{x\sim P_{data}(x)}[logD(x)]+E_{z\sim p_z(z)}[log(1-D(G(z)))]\text{\hspace{1em}(1.1)}$$

为了学习数据x的分布$p_g$，定义了一个含有噪声的变量分布$p_z(z)$;V是评分方程（这个值是越大越好的），G是一个生成器，D是一个判别器；训练D最大化真实数据和生成数据的区别，训练G最小化真实数据和生成数据的区别；

注意这个公式有两项，第一项是指是否能正确识别真实的数据；第二项是指是否能够识别生成的数据；
(1) 完美D

1. 当$D(x)$完美识别真实数据和生成数据，$E_{x\sim P_{data}(x)}[logD(x)]$趋近于1，而$E_{z\sim p_z(z)}[log(1-D(G(z)))]$趋近于0，整体趋近于1.
2. 当$D$不完美的时候，由于存在$log$会使得两项都是一个负数；那训练的目的就是使得这个负数尽量小
3. 因此需要最大化判别器带来的值，来使得判别器D最佳。

(2) 完美G

1. G只和$E_{z\sim p_z(z)}[log(1-D(G(z)))]$相关，如果G完美忽悠D的时候，$E_{z\sim p_z(z)}[log(1-D(G(z)))]$输出的结果就是负无穷；
2. 当不是那么完美的时候，输出的值就是一个负数；我们目的是使得这个输出尽量小，以使得生成器最佳。
3. 所以需要最小化生成器带来值$E_{z\sim p_z(z)}[log(1-D(G(z)))]$

训练过程

训练D说明

生成器生成的数据就是V(G,D)的第二项的输入：$g(z)=x$,那么对z的求和就可以变为对x的求和。
将$V(G,D)$展开成积分/求和的形式
$$\begin{array}{rl}V(G,D)& ={\int }_x{p}_{data}\cdot log(D(x))dx+{\int }_z{p}_z(z)\cdot log(1-D(g(z)))\\ & ={\int }_x{p}_{data}\cdot log(D(x))+p_g(x)\cdot log(1-D(x))dx\end{array}\text{\hspace{1em}(1.2)}$$
对于 任意的(a,b)∈R2\{0,0}(a,b) \in R^2 \backslash \{0,0\}(a,b)∈R2\{0,0},函数$y\to alog(y)+blog(1-y)$是一个凸函数，我们需要求这个函数的最大值，就求导数
$$\begin{array}{r}\frac{a}{y}+\frac{b}{1-y}=0\\ y=\frac{a}{a+b}\end{array}$$
则在$y=\frac{a}{a+b}$的时候有最大值，对应于判别器的概率即为：
$$D_G^{\ast }(x)=\frac{p_{data}(x)}{p_{data}(x)+p_g(x)}$$
将最优解带入到价值函数之中
$$\begin{array}{rl}C(G)& =\underset{D}{\max }V(G,D)\\ & =E_{x\sim p_{data}}[log{D}_G^{\ast }(x)]+E_{z\sim p_z}[log(1-D_G^{\ast }(G(z)))]\\ & =E_{x\sim p_{data}}[log\frac{p_{data}(x)}{p_{data}(x)+p_g(x)}]+E_{x\sim p_g}[log\frac{p_g(x)}{p_{data}(x)+p_g(x)}]\end{array}\text{\hspace{1em}(1.3)}$$
根据KL散度和JS散度的定义，可以将上面的公式改写为
$$\begin{array}{rl}C(G)& =KL(P_{data}||\frac{p_{data}+p_g}{2})+KL(p_g||\frac{p_{data}+p_g}{2})-log(4)\\ & =2\cdot JSD(p_{data}||p_g)-log(4)\end{array}\text{\hspace{1em}(1.4)}$$

注意$\frac{p_{data}+p_g}{2}$这里除以2是为了保证是一个分布（即概率的积分是等于1的）

在固定D训练G的时候，我们就是为了最小化这个$C(G)$，根据上面推导：
所以给出结论：当$p_g=p_d$时，$D_G^{\ast }(x)=\frac{1}{2}$,因此$C(G)=log\frac{1}{2}+\frac{1}{2}=-log4$，可以得到最小的$C(G)$

1.3 图片理解

绿色是生成的分布；黑色是真实分布；蓝色是判别器的分布

(b)表示训练辨别器，使得辨别器可以非常好地区分二者
©表示训练生成器，继续欺骗判别器

1.4 熵、交叉熵、KL散度、JS散度

1. 熵(Entropy)
   K-L散度源于信息论，常用的信息度量单位为熵(Entropy)
   $$H=-\sum _{i=1}^{N}p(x_i)\cdot logp(x_i)$$
   注意这个对数没有确定的底数（可以使2、e或者10）。

熵度量了数据的信息量，可以帮助我们了解用概率分布近似代替原始分布的时候我们到底损失了多少信息；但问题是如何将熵值压缩到最小值，即如何编码可以达到最小的熵（存储空间最优化）。

2. 交叉熵 : 量化两个概率分布之间的差异
   $$H(p,q)=-\sum _{x}p(x)logq(x)$$

3. KL散度（kullback-Leibler divergence）:量化两种概率分布 P和Q之间差异的方式，又成为相对熵
   将熵的定义公式稍加修改就可以得到K-L散度的定义公式：
   $$D_{KL}(P||Q)=\sum _{i=1}^{N}p(x_i)\cdot (logp(x_i)-logq(x_i))=\sum _{i=1}^{N}p(x_i)\cdot log\frac{p(x_i)}{q(x_i)}$$
   其中$p$和$q$分别表示数据的原始分布和近似的概率分布。

根据公式所示，K-L散度其实是数据的原始分布p和近似分布之间的对数差的期望。如果用2位底数计算，K-L散度表示信息损失的二进制位数,下面用期望表示式展示：
$$D_{KL}(P||Q)=E[logp(x)-q(x)]$$

注意:

• 从散度的定义公式中可以看出其不符合对称性（距离度量应该满足对称性）
• KL散度非负性

4. JS散度(Jensen-shannon divergence)
   由于K-L散度是非对称的，所以对其进行修改，使得其能够对称，称之为 JS散度
   (1) 设 $$M=\frac{1}{2}(P+Q)$$,则：
   $$D_{JS}(P||Q)=\frac{1}{2}{D}_{KL}(P||M)+\frac{1}{2}{D}_{KL}(Q||M)$$
   (2) 将KL散度公式带入上面
   $$D_{JS}=\frac{1}{2}\sum _{i=1}^{N}p(x_i)log(\frac{p(x_i)}{\frac{p(x_i)+q(x_i)}{2}})+\frac{1}{2}\sum _{i=1}^{N}q(x_i)\cdot log(\frac{q(x_i)}{\frac{p(x_i)+q(x_i)}{2}})$$
   (3) 将$log$中的$\frac{1}{2}$放到分子上
   $$D_{JS}=\frac{1}{2}\sum _{i=1}^{N}p(x_i)log(\frac{2p(x_i)}{p(x_i)+q(x_i)})+\frac{1}{2}\sum _{i=1}^{N}q(x_i)\cdot log(\frac{2q(x_i)}{p(x_i)+q(x_i)})$$
   (4) 提出2
   $$D_{JS}=\frac{1}{2}\sum _{i=1}^{N}p(x_i)log(\frac{p(x_i)}{p(x_i)+q(x_i)})+\frac{1}{2}\sum _{i=1}^{N}q(x_i)\cdot log(\frac{q(x_i)}{p(x_i)+q(x_i)})+log(2)$$
   注意这里是因为$\sum p(x)=\sum q(x)=1$

JS散度的缺陷:当两个分布完全不重叠的时候，几遍两个分布的中心离得很近，其JS散度都是一个常数，所以其获取的梯度是0，是没有办法进行更新的。而两个分布没有重叠的原因：从理论和经验而言，真实的数据分布其实是一个低维流形（不具备高维特征），而是存在一个嵌入在高维度的低维空间内。由于维度存在差异，数据很可能不存在分布的重合。

1.5 其他相关（正在补充！）

---

2. Cycle GAN 《Unpaired Image-to-Image Translation using Cycle-Consistent Adversarial Networks》

一开始是应用到图像风格迁移上面的

2.1 基础理论和推到

1. 概念描述
   

CycleGAN具有一个双判别器结构

• G:从X到Y的生成器
• F:从Y到X的生成器
• $D_x$:判别生成的X是真实X，还是生成的X
• $D_y$:判别生成的Y是真实Y，还是生成的Y

训练过程

1. forward cycle-consistency loss
   $$x\to G(x)\to F(G(x))\approx x$$
   • 输入$x$,生成器$G$，得到输出$\hat{y}=G(x)$,判别器$D_y$判别该输出是真实$y$还是生成的;
   • 将$\hat{y}$继续输入到另一个生成器$F$之中，输出$\hat{x}=F(\hat{y})=F(G(x))$
2. backward cycle-consistency loss
   $$y\to F(y)\to G(F(y))\approx y$$
   • 输入$y$,生成器$F$,得到输出$\hat{x}=F(y)$,判别器$D_x$判断该输出是真实$x$还是生成的；
   • 将$\hat{x}$继续输入到另一个生成器$G$之中,输出$\hat{y}=G(\hat{x})=G(F(y))$

损失函数
$$L(G,F,D_x,D_y)=L_{GAN}(G,D_y,X,Y)+L_{GAN}(F,D_x,Y,X)+\lambda L_{cyc}(G,F),\text{\hspace{1em}(2.1)}$$
其中包含有两个原始GAN的损失和一个CycleGAN的损失。

$G:X\to Y$
$$L_{GAN}(G,D_y,X,Y)=E_{y\sim p_{data}(y)}[log{D}_y(y)]+E_{x\sim p_{data}(x)}[log(1-D_y(G(x)))],\text{\hspace{1em}(2.2)}$$

$F:Y\to X$
$$L_{GAN}(F,D_y,X,Y)=E_{x\sim p_{data}(x)}[log{D}_x(x)]+E_{y\sim p_{data}(y)}[log(1-D_x(F(y)))],\text{\hspace{1em}(2.3)}$$

在理论上，对抗学习可以学习到一种映射关系，以生成器G为例，它得到的输出的分布是与目标域是同分布。但是呢，在足够大的生成能力下，一个网络模型可以映射相同一系列输入图像到任意随机排列在目标域的图像中，其中任何一个学到的映射都可以得到与目标域匹配的输出分布。什么意思呢？就是可能有两个不同的生成器生成的图像都可能得到相同的能与目标域匹配的图像分布。为了得到一个满意的输出，因此单单一个对抗损失远远不够。为了进一步减少可能映射函数的空间域，作者认为学习到的映射因该具有循环一致性损失，就如我在方法中说的那样。

$$L_{cyc}(G,F)=E_{x\sim p_{data}(x)}[||F(G(x))-x|{|}_1]+E_{y\sim p_{data}(y)}[||G(F(y))-y|{|}_1].\text{\hspace{1em}(2.4)}$$

2.2 实验结果

2.3 限制和讨论

1. 限制：
   • 并非所有的例子都是非常好的效果的
   • 颜色风格的变化容易实现，但是几何风格的变化难以实现
   • 训练数据的特征分布会影响训练的过程，容易导致训练失败（比如只是用马和斑马进行训练，如果加入人骑在马上面进行风格迁移就会失败，因为没有学习到这个特征）
   • 成对训练数据和非成对数据训练的效果仍然存在较大的区别