600字范文,内容丰富有趣,生活中的好帮手!
600字范文 > 生死看淡 不服就GAN

生死看淡 不服就GAN

时间:2020-11-07 13:42:59

相关推荐

生死看淡 不服就GAN

Conditional GAN的判别器基本上所有的文献都采用如下的结构,给定输入和条件,由判别器判断图片的真实性或者输入与条件是否匹配,即二选一或全都是。

个别几篇文献采用如下结构,输入X判断图片是真实的还是生成的,同时还能判断输入和条件是否匹配。

[Augustus Odena et al., ICML, ]

[Takeru Miyato, et al., ICLR, ]

[Han Zhang, et al., arXiv, ]

无监督的条件生成unsupervised conditional generation

两种方法,一种是直接生成,另一种是转化到相同的空间

/abs/1703.10593

https://junyanz.github.io/CycleGAN/

X域的图片经过生成器生成Y域图片后,由判别器判断是否属于Y域,但是存在一种情况就是生成器直接生成了一张本来就在Y域的图片,可能和原来的X域图片不相关。[Tomer Galanti, et al. ICLR, ]

Baseline of DTN [Yaniv Taigman, et al., ICLR, ]

[Jun-Yan Zhu, et al., ICCV, ]

训练生成器的方式

CycleGAN 可能存在着隐藏信息的问题[Casey Chu, et al., NIPS workshop, ] ,比如我们通过人眼不能观测出的灰度差,但是生成器自身可以知道。这样就失去了Cycle Consistency的意义了,本来我们是想输入和输出不要差太多,如果生成器很擅长藏信息,即使我们能解出来,但是输出和输入还是差距很大。

Disco GAN [Taeksoo Kim, et al., ICML, ] Dual GAN [Zili Yi, et al., ICCV, ]和Cycle GAN [Jun-Yan Zhu, et al., ICCV, ] 三个是一样的,没什么不同,基本上同时不同的人投递到不同的期刊上

StarGAN 一个Generator上实现多个domain上相互转换,不用去生成那么多的Generator [Yunjey Choi, arXiv, ]

转化到相同的空间的方法:

但是可能存在encoderX和encoderY输出的特征维度不匹配的情况,比如对于X来说第一维是性别,而Y对应的是肤色,那么经过encoderX和decoderY的就可能是一张非常奇怪的不是我们想要的结果。

解决方法就是让encoder的最后几层参数共享,decoder的前几层参数共享,这样可以认为输出的特征在相同的维度上表示相同的信息。

Couple GAN[Ming-Yu Liu, et al., NIPS, ]

UNIT[Ming-Yu Liu, et al., NIPS, ]

也可以加入Domain Discriminator判断是来自那个域的向量。最后无法分辨出来,就认为在相同的维度上代表同一类信息。最后加上Dx和DY是为了图像更清晰,因为只用VAE的图像是模糊的。[Guillaume Lample, et al., NIPS, ]

也可以用cycle consistency的思想

输入经过X的encoder和Y的decoder,再经过Y的encoder和X的decoder,使得生成的图像和输入图像的重构误差越小越好。同时用DiscriminatorX和Y判断是否是真实图像。[Asha Anoosheh, et al., arXiv, 017]

但是这种重构误差的比较多是像素级别上的,也可以是隐藏层语义上的差别

Used in DTN [Yaniv Taigman, et al., ICLR, ] and

XGAN [Amélie Royer, et al., arXiv, ]

输入图像经过X的encoder和Y的decoder再经过Y的encoder,使得输入图像的code和经过Y的encoder的code越接近越好。

• Jun-Yan Zhu, Taesung Park, Phillip Isola, Alexei A. Efros, Unpaired Image-to-Image Translation using Cycle-Consistent Adversarial Networks, ICCV,

• Zili Yi, Hao Zhang, Ping Tan, Minglun Gong, DualGAN: Unsupervised Dual Learning for Image-to-Image Translation, ICCV,

• Tomer Galanti, Lior Wolf, Sagie Benaim, The Role of Minimal Complexity Functions in Unsupervised Learning of Semantic Mappings, ICLR,

• Yaniv Taigman, Adam Polyak, Lior Wolf, Unsupervised Cross-Domain Image Generation, ICLR,

• Asha Anoosheh, Eirikur Agustsson, Radu Timofte, Luc Van Gool, ComboGAN: Unrestrained Scalability for Image Domain Translation, arXiv,

• Amélie Royer, Konstantinos Bousmalis, Stephan Gouws, Fred Bertsch, Inbar Mosseri, Forrester Cole, Kevin Murphy, XGAN: Unsupervised Image-to-Image Translation for Many-to-Many Mappings, arXiv,

• Guillaume Lample, Neil Zeghidour, Nicolas Usunier, Antoine Bordes, Ludovic Denoyer, Marc’Aurelio Ranzato, Fader Networks: Manipulating Images by Sliding Attributes, NIPS,

• Taeksoo Kim, Moonsu Cha, Hyunsoo Kim, Jung Kwon Lee, Jiwon Kim, Learning to Discover Cross-Domain Relations with Generative Adversarial Networks, ICML,

• Ming-Yu Liu, Oncel Tuzel, “Coupled Generative Adversarial Networks”, NIPS,

• Ming-Yu Liu, Thomas Breuel, Jan Kautz, Unsupervised Image-to-Image Translation Networks, NIPS,

• Yunjey Choi, Minje Choi, Munyoung Kim, Jung-Woo Ha, Sunghun Kim, Jaegul Choo, StarGAN: Unified Generative Adversarial Networks for Multi-Domain Image-to-Image Translation, arXiv,

两个问题

Mode collapse 生成图片大多数都一样,真实数据概率分布比较分散,生成数据的概率分布比较集中

Mode dropping 每次迭代不一样,不能在最终的迭代结果里出现所有可能。

InfoGAN solve the problem of Mode collapse

VAE GAN

Anders Boesen, Lindbo Larsen, Søren Kaae Sønderby, Hugo Larochelle, Ole Winther, “Autoencoding beyond pixels using a learned similarity metric”, ICML.

Autoencoding beyond pixels using a learned similarity metric () [pdf]

Adversarial Autoencoders () [pdf]

BiGAN

Triple GAN

Chongxuan Li, Kun Xu, Jun Zhu, Bo Zhang, “Triple Generative Adversarial Nets”, arXiv

Domain-adversarial training

Hana Ajakan, Pascal Germain, Hugo Larochelle, François Laviolette, Mario Marchand, Domain-Adversarial Training of Neural Networks, JMLR,

FIT: /pdf/1706.08500.pdf

Mario Lucic, Karol Kurach, Marcin Michalski, Sylvain Gelly, Olivier Bousquet, “Are GANs Created Equal? A Large-Scale Study”, arXiv,

本内容不代表本网观点和政治立场,如有侵犯你的权益请联系我们处理。
网友评论
网友评论仅供其表达个人看法,并不表明网站立场。