Pytorch实现论文之一种基于扰动卷积层和梯度归一化的生成对抗网络

简介

简介：提出了一种针对鉴别器的梯度惩罚方法和在鉴别器中采用扰动卷积，拟解决锐梯度空间引起的训练不稳定性问题和判别器的记忆问题。

论文题目：A Perturbed Convolutional Layer and Gradient Normalization based Generative Adversarial Network（一种基于扰动卷积层和梯度归一化的生成对抗网络）

会议：2024 4th International Conference on Neural Networks, Information and Communication Engineering (NNICE)

摘要：本文开发了基于扰动卷积层和惩罚梯度归一化的生成对抗网络（PCPGN-GAN），以解决锐梯度空间引起的训练不稳定性问题和判别器的记忆问题。扰动卷积层的独特之处在于它与传统卷积层的背离。它通过在进行卷积操作之前向输入张量引入随机扰动来实现这一点。这种修改显着降低了判别器对记忆问题的倾向。此外，惩罚梯度范数约束的引入是判别器函数独有的。这种约束在稳定梯度信息的同时增强了其容量，从而提高了训练稳定性。 跨多个数据集（包括CIFAR-10、STL-10、Tiny ImageNet、celebA-HQ和LSUN-Church）的比较评估突出了PCPGN-GAN的卓越性能。实验结果表明，它具有相当大的优势，表现在更高的画质上，并在初始得分和Frechet初始距离