如何让 GAN 收敛?

阅读数:146 2019 年 12 月 7 日 20:37

如何让GAN收敛?

上一期我们说了关于 GAN 收敛的这样一件事情:如果矢量场 v 的雅可比矩阵的特征值的实部为负数,且学习速率足够小,则 GAN 会局部收敛到纳什均衡点。假设学习速率确实足够小,单纯考虑特征值的问题。在纳什均衡点,特征值的实数部分能否出现负数?这件事情是与目标函数息息相关的,因为雅可比矩阵的一般形式如下:

如何让GAN收敛?

不难料想,如果生成器和判别器的目标函数 f 和 g 选取得当,上述矩阵的特征值的实数部分确实有可能为负数。今天用一个小实验来盘点一下,到底哪些 GAN,哪些目标函数可能收敛。

1. Dirac-GAN

我们将使用一个极其简单的 Dirac-GAN 模型作为测试对象,在一维空间中,训练数据只有一个点,其位置固定在 x=0;生成器只包含一个参数θ,生成样本的位置在 x=θ,如下图所示:

如何让GAN收敛?

判别器为一个简单的线性函数与激活函数复合的形式

如何让GAN收敛?

包括一个参数φ ,其中 f 为激活函数。通过选择不同的激活函数 f(t) 可对应于不同的 GAN 形式,使用 Sigmoid 函数

如何让GAN收敛?

可获得原始形式,而选择

如何让GAN收敛?

可以得到 WGAN 的形式。Dirac-GAN 的纳什均衡点为 (0,0),即生成的样本与训练数据重合。
如何让GAN收敛?

接下来,我们依次观察不同的 GAN 能否收敛到均衡点。需要说明,实际情况远远复杂于 Dirac-GAN,样本不只是一维也不可能只存在一个样本点,我们只是通过它来直观说明一些问题,得到一些启示。

2. 标准 GAN 与 WGAN

2.1 标准 GAN

标准 GAN 即 Goodfellow 首次提出的 GAN 的标准形式,其损失函数的表达式为:

如何让GAN收敛?

在 Dirac-GAN 中,对应的损失函数成为:

如何让GAN收敛?

相应的动力学系统:

如何让GAN收敛?

采用梯度下降法发现其并不收敛:

如何让GAN收敛?

2.2 WGAN

WGAN 改进了概率分布之间的距离的度量,其损失函数的表达式为:

如何让GAN收敛?

在 Dirac-GAN 中,对应的损失函数成为:

如何让GAN收敛?

这里有一个简化处理,假设当训练到一定程度时,φ处于 0 附近,其值自然小于 1,满足 Lipschitz 限制。若只要关心其收敛情况,这样的假设是合理的。相应的动力学系统:

如何让GAN收敛?

采用梯度下降法则发现其并不收敛:

如何让GAN收敛?

其实,与简单的 Dirac-GAN 的实验结果一致,无论是标准形式的 GAN 或者 WGAN,从理论上证明,发现在纳什均衡点 (0,0),其特征值为 f’(0)i 和 -f’(0)i,均不包含实部。根据之前的理论,参数轨迹确实不应该表现为收敛,而且可以进一步证明,它在 (0,0) 附近的轨迹表现为“圆”,缺乏向纳什均衡点靠拢的“向心力”。

可以说,现在的问题不是选择什么样的 f(t),不是用 fGAN 或者 WGAN 的问题了,而是如何调整目标函数,也就是如何添加正则项,从而能解决特征值实部为负数的问题。

3. WGAN-GP

采用惩罚项的 WGAN-GP 是一种解决 1-Lipschitz 限制的软方法,其损失函数的表达式为:
如何让GAN收敛?

在 Dirac-GAN 中,对应的损失函数成为:

如何让GAN收敛?

相应的动力学系统:

如何让GAN收敛?

采用梯度下降法则发现其也不收敛,说明这个正则项加的“不太好”。

如何让GAN收敛?

4. 一致优化

一致优化是一种理论上比较“有保证”的 GAN,具体内容在上一期进行过详细描述,以标准的 GAN+ 一致优化正则项为例,其损失函数的表达式为:

如何让GAN收敛?

在 Dirac-GAN 中,对应的损失函数成为:

如何让GAN收敛?

相应的动力学系统:

如何让GAN收敛?

结果有点复杂,但是确实在 Dirac-GAN 中精确收敛至 (0,0):

如何让GAN收敛?

正如上一期所说,实际情况中必须保证学习速率要足够小,而且要比较好地控制超参数,才可能收敛。

5. zero centered gradient

所谓 zero centered gradient 与 WGAN-GP 非常相近,就是添加正则项使判别器对输入的梯度接近一个常数,只不过在 WGAN-GP 中我们选择常数为 1,而这里选择常数为 0。(至于为何选择 0,这里不展开,以后有机会补充。)再细分下来,又包括两种添加正则项的方法,一种是在真实数据上施加惩罚项,另一种是在生成数据上施加惩罚项。

如果选择在真实数据上施加惩罚项,则其损失函数的表达式为:

如何让GAN收敛?

如果选择在生成数据上施加惩罚项,则其损失函数的表达式为:

如何让GAN收敛?

无论如何,其在 Dirac-GAN 中,对应的损失函数均表示为:

如何让GAN收敛?

相应的动力学系统:

如何让GAN收敛?

采用梯度下降法则发现其收敛:

如何让GAN收敛?

这一个简单将 1 改为 0,使结果产生了巨大的变化,其实这一改变也正是 Wasserstein 散度的理论结果,注意这不是 WGAN 中的 Wasserstein 距离。

综上,我们可以带有启发性得说,如果你的 fGAN 或者 WGAN 训练过程不收敛,试一下一致优化正则项或者 zero centered gradient 正则项吧。

参考文献

[1] Mescheder L , Nowozin S , Geiger A . The Numerics of GANs[J]. 2017.

[2] Mescheder L , Geiger A , Nowozin S . Which Training Methods for GANs do actually Converge?[J]. 2018.

总结

这篇文章用了一个非常简单且直观的 Dirac-GAN 进行实验,首先说明了标准的 GAN 或者 WGAN 是无法收敛到纳什均衡的,需要添加正则项。接下来,WGAN-GP 也无法收敛,而一致优化正则项和 zero centered gradient 可以实现收敛,这为我们提供了很好的启示。

作者介绍

小米粥,公众号“有三 AI”作者。该公号聚焦于让大家能够系统性地完成 AI 各个领域所需的专业知识的学习。

原文链接

https://mp.weixin.qq.com/s/De-qjmA2VCMSQy7lESeYMA

评论

发布