1. 前言
作者在这篇论文中提出了GAN,也就是生成对抗网络。
在GAN中,生成模型和一个对抗模型相对应,使用一个模型来学习判断一个样本来自于model distribution,还是来自于data distribution。生成模型可以看做一组伪造数据的人,discriminative模型看做为经常,来检测出伪造。训练过程就使得这两个部分一起提高它们的水平,相互竞争。
2. 介绍
当我们使用多层perceptrons来表示模型的时候,可以用一个生成器分布,先验噪音:
,使用
表示到数据空间的映射。同时定义第二个多层的perceptron
输出一个标量,表示样本
来自于数据而不是
的概率。训练目标如下,训练
来最大化分类的概率,同时训练
来最小化损失
。
训练
在实际应用中,当对训练时,想要达到最优化不仅需要非常多的计算循环,而且很可能导致严重的过拟合。因为,对
进行
步,对
进行
步,来不断循环迭代。
算法如下:
算法1
3. 理论
3.1
Proposition 1. 当
固定时,最优的
是:
(2)
证明从最优化的函数:
3
可以判断的最优值
根据上面的结果,我们可以将公式(1)最小化的目标表达为:
4
Theorem 1. 上面C(G)的全局最小值当且仅当
时得到,在这个点,C(G) 为
。
容易证明当的时候,C(G)为
。
作者在4.2节证明了算法1的收敛性。