Unpaired Image-to-Image Translationusing Cycle-Consistent Adversarial Networks(Cycle GAN)

Unpaired Image-to-Image Translationusing Cycle-Consistent Adversarial Networks

图像到图像的转换:使用一组对齐的图像对学习输入图像和输出图像之间的映射关系。

提出了一种可以学习的相同的方法,捕获一个图像集合的特殊特征,并且弄清楚这些特征如何转化为另一个图像集。在学习过程中没有任何配对的图像样例。

Introduction

CycleGAN是基于一个前提的:两个域之间存在着一些潜在的关系,例如它们是同一底层场景中的两种不同渲染,CycleGAN可以学习这种关系。

对于单向的GAN,不能保证从源域到目标域的映射是一种有意义的方式,从源域到目标域有很多种方式,生成数据符合目标域的分布。同时,实践中,很难对单向的GAN进行优化。

CycleGAN向GAN中增加更多结构。探索了GAN的循环一致性(cycle consistent),从源域映射到目标域,再从目标域映射回源域应该得到和源域样本近似相同结果。

Formulation

目标是给出训练样本\left\{ x _ { i } \right\} _ { i = 1 } ^ { N }\left\{ y _ { j } \right\} _ { j = 1 } ^ { M },学习一个两个域XY之间的映射关系。

Cycle GAN

模型包含两个映射函数:G:X \rightarrow YF:Y\rightarrow X,还有相关的对抗判别器D_YD_X。同时引入了循环一致性。

Adversarial Loss

向两个映射函数中应用对抗损失对映射G : X \rightarrow Y和他的判别器D_Y,目标函数为:

\begin{aligned} \mathcal { L } _ { \mathrm { GAN } } \left( G , D _ { Y } , X , Y \right) & = \mathbb { E } _ { y \sim p _ { \mathrm { data } } ( y ) } \left[ \log D _ { Y } ( y ) \right] \\ & + \mathbb { E } _ { x \sim p _ { \mathrm { data } } ( x ) } \left[ \log \left( 1 - D _ { Y } ( G ( x ) ) \right] \right. \end{aligned}

\min _ { G } \max _ { D _ { Y } } \mathcal { L } _ { \mathrm { GAN } } \left( G , D _ { Y } , X , Y \right)

对于映射:F : Y \rightarrow X和他的判别器D,损失函数和上面的对应。

Cycle Consistency Loss

理论上对抗训练可以学习映射GF,但是当网络足够大的时候,网络可以将同一组输入图像映射到目标域中的任何随机排列的图像。单独的对抗性损失不能实现本文中要实现的目标。

因此引入了循环一致性。x \rightarrow G ( x ) \rightarrow F ( G ( x ) ) \approx x,这种被称为 forward cycle consistency,同时还有backward cycle consistency:y \rightarrow F ( y ) \rightarrow G ( F ( y ) ) \approx y

使用循环一致性损失鼓励以上行为:

\begin{aligned} \mathcal { L } _ { \mathrm { cyc } } ( G , F ) & = \mathbb { E } _ { x \sim p _ { \text { data } } ( x ) } \left[ \| F ( G ( x ) ) - x \| _ { 1 } \right] \\ & + \mathbb { E } _ { y \sim p _ { \text { data } } ( y ) } \left[ \| G ( F ( y ) ) - y \| _ { 1 } \right] \end{aligned}

Full Objective

完整的目标函数为:

\begin{aligned} \mathcal { L } \left( G , F , D _ { X } , D _ { Y } \right) & = \mathcal { L } _ { \text { GAN } } \left( G , D _ { Y } , X , Y \right) \\ & + \mathcal { L } _ { \text { GAN } } \left( F , D _ { X } , Y , X \right) \\ & + \lambda \mathcal { L } _ { \text { cyc } } ( G , F ) \end{aligned}

其中的\lambda平衡两种损失。

G ^ { * } , F ^ { * } = \arg \min _ { G , F } \max _ { D _ { x } , D _ { Y } } \mathcal { L } \left( G , F , D _ { X } , D _ { Y } \right)

也可以将Cycle GAN的模型看作是训练了两个有特殊的内部结构的自动编码器。

实验阶段证明了两个目标函数都起着关键性的作用,而且只有一个方向的循环损失不足以规范训练。

Implememnetation

从这一部分也可以感觉出GAN的训练存在一些trick性质的技巧,并不是十分的稳定。

Network Architecture

使用的生成网络架构包含两个歩幅为2的卷积,几个残差块,两个歩幅为\frac{1}{2}的fractionally-strided卷积。对于128×128的图像使用6块,对于256×256的图像使用9块。同时使用instance normalization。

对判别器网络,我们使用70×70 PatchGANs,其目的在于分类70×70重叠图像补丁是真实的还是假的。这种鉴别器架构的参数比全图像鉴别器的参数更少,可以以完全相同的方式处理任意大小的图像。

Train details

应用了近期工作中的两种技术稳定模型训练过程,对\mathcal { L } _ { \mathrm { GAN } }用最小二乘损失代替负对数死然损失,这种损失更加稳定。

为了减小模型震荡,使用生成图像的历史而不是最新生成器生成的图像来更新判别器,保留了一个图像缓冲区,用于存储50个以前创建的图像。

对所有的时延,将\lambda设置为10,使用批量大小为1的Adam优化器。网络使用0.0002的学习率训练。前100个周期使用相同的学习率,接下来的100个周期将学习率线性衰减为0。

Results

  1. 与其他方法进行比较。
  2. 研究对抗损失和周期一致性损失的重要程度。
  3. 证明算法在各种应用中的一般性。
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 214,233评论 6 495
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,357评论 3 389
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 159,831评论 0 349
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,313评论 1 288
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,417评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,470评论 1 292
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,482评论 3 412
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,265评论 0 269
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,708评论 1 307
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,997评论 2 328
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,176评论 1 342
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,827评论 4 337
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,503评论 3 322
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,150评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,391评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,034评论 2 365
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,063评论 2 352

推荐阅读更多精彩内容