最近忙着弄论文,不知不觉三个多月没更新了 = =
心里实在过意不去,分享一下前段时间看的一篇论文,以及复现的模型~
一键上妆效果如下
BeautyGAN
- 论文名称:BeautyGAN: Instance-level Facial Makeup Transfer with Deep Generative Adversarial Network,2018年的ACM MM
- 官方网站:http://liusi-group.com/projects/BeautyGAN
- 实现功能:输入两张人脸图片,一张无妆,一张有妆,模型输出换妆之后的结果,即一张上妆图和一张卸妆图
采用了经典的图像翻译结构:
- 生成器G包括两个输入,分别是无妆图、有妆图,通过encoder、residual blocks、decoder得到两个输出,分别是上妆图、卸妆图
- 上妆和卸妆不能改变原始的人物信息,这里通过perceptual loss保证
- 使用两个判别器,DA区分真假无妆图,DB区分真假有妆图
- 训练了一个语义分割网络用于提取人脸不同区域的mask,上妆图和有妆图在脸部、眼部、嘴部三个区域需满足makeup loss,通过直方图匹配实现
- 把上妆图和卸妆图再次输入给G,重新执行一次卸妆和上妆,从而得到两张重建图,通过cycle consistency loss需要和原始图相同
论文中的上妆结果看起来很nice~
作者也很nice地给出了自建的数据集,包括1116张无妆图、2720张有妆图,在官方网站提供了下载链接
唯一不nice的是,没有开源代码,也没有提供训练好的模型
自己动手
看了论文中的效果,正好数据集也可以下载,感觉挺有意思,当然要手动复现一下啦
复现结果如下,看起来还阔以~
- 项目放到了Github上,https://github.com/Honlan/BeautyGAN
- 训练好的模型传到了网盘上,https://pan.baidu.com/s/1wngvgT0qzcKJ5LfLMO7m8A,7lip
- 编程环境为Python3.6和TensorFlow1.9
- 项目中包括11张无妆图片,以及9张有妆图片
- 下载训练好的模型,新建文件夹model,将模型文件放于其中
默认对imgs/no_makeup/xfsy_0068.png
进行上妆
python main.py
如果需要对其他人脸图片上妆,传入图片路径即可,推荐使用大小合适的正脸图片
python main.py --no_makeup xxx.xxx
自取玩耍,欢迎star~