目录
Abstract
1. Introduction
2. Preliminaries: GANs and diffusion-based generative models
3. Diffusion-GAN: Method and Theoretical Analysis
3.1 Instance noise injection via diffusion
3.2 Adversarial Training
3.3 Adaptive diffffusion
3.4 Theoretical analysis with Examples
3.5 Related work
4 Experiments
4.1 Comparison to state-of-the-art GANs
4.2 Effectiveness of Diffusion-GAN for domain-agnostic augmentation
4.3 Effectiveness of Diffusion-GAN for limited data
5 Conclusion
Abstract
生成对抗网络(GANs)的稳定训练具有挑战性,而在鉴别器输入中注入实例噪声的解决方法在实践中还不是很有效。在本文中,我们提出了一种新的GAN框架,它利用一个前向扩散链来产生高斯混合分布的实例噪声。扩散-gan由三个组成部分组成,包括一个自适应扩散过程、一个与扩散时间步长相关的鉴别器和一个发生器。观测数据和生成的数据都通过相同的自适应扩散过程进行扩散。在每个扩散时间步长,有不同的噪声-数据比,时间步长相关的鉴别器学习区分扩散的真实数据和扩散生成的数据。生成器通过前向扩散链的反向传播从鉴别器的反馈中学习,该扩散链的长度被自适应地调整以平衡噪声和数据水平。我们从理论上证明,鉴别器的时间步长依赖策略为生成器提供了一致和有用的指导,使其能够匹配真实的数据分布。我们在不同的数据集上展示了扩散-gan相对于强GAN基线的优势,表明它可以比最先进的GAN产生更真实的图像,稳定性和更高的数据效率。
1. Introduction
2. Preliminaries: GANs and diffusion-based generative models
3. Diffusion-GAN: Method and Theoretical Analysis
为了构造扩散-gan,我们描述了如何通过扩散注入实例噪声,如何通过正向扩散过程的反向传播来训练生成器,以及如何自适应地调整扩散强度。我们进一步提供了一个玩具例子说明的理论分析。
3.1 Instance noise injection via diffusion
3.2 Adversarial Training
3.3 Adaptive diffffusion
3.4 Theoretical analysis with Examples
3.5 Related work
4 Experiments
4.1 Comparison to state-of-the-art GANs
4.2 Effectiveness of Diffusion-GAN for domain-agnostic augmentation
4.3 Effectiveness of Diffusion-GAN for limited data
5 Conclusion
明天读~~~~~~~