图象风格迁移

什么是图象风格迁移

图象风格迁移就是将一张图片的某种风格或者特征应用到另一张图片上。例如ps或者powerpoint中的图片风格化。

需要的知识储备

  • python
  • tensorflow应用知识
  • Linux基础知识
  • VGGNet的相关知识

图象风格迁移原理

VGGNet

VGGNet是英国牛津大学研究者提出的一种用以识别图象目标的分类与定位的神经网络,当时获得了ILSVRC2014比赛识别组的第二名与定位组的第一名。

VGGNet结构

VGG由5层卷积层、3层全连接层、softmax输出层构成,层与层之间使用max-pooling(最大化池)分开,所有隐层的激活单元都采用ReLU函数。
可以这样简化的理解VGGNet的结构:前面的卷积层是从图象中提取“特征”,后面的全连接层则是把“特征”转换成类别的概率。其中,VGGNet中的浅层(如conv1_1,conv1_2),提取的特征往往是比较简单的(如检测点、线、亮度),VGGNet中的深层(如conv5_1,conv5_2),提取的特征往往是比较复杂的(如有无人脸或者某种特定物体)。
VGGNet的本意是输入图象,提取特征,并输出图象类别。图象风格迁正好与之相反,输入的是特征,输出对应这种特征的图片

VGGNet与图象风格迁移的区别

图象内容还原与图象风格还原

根据VGGNet的原理,我们选取一幅图象,经过VGGNet的计算可以得到各个卷积层的特征,根据这些卷积层的特征,可以还原出对应这种特征的原始图象。通常情况下:浅层的还原效果比较好,深层对应的还原图象丢失了部分颜色和纹理,但是大体保留了原始图象中物体的形状和位置。

  • 图象内容还原

  • 图象风格还原
    图象风格即是图象的特征还原,这里需要考虑的就是用什么样的算法来表示图象的风格。此处选用图象卷积层特征的Gram矩阵。

  • 风格迁移
    前文描述皆是对原始图象本身的内容和风格还原,将内容还原与风格还原结合起来,在还原一张图象的同时,还原另外一张图象的风格,便形成了图象的风格迁移。

    以上便是图象风格迁移的原理,但是使用梯度下降法来进行风格迁移需要耗费大量的计算时间,在CPU上计算生成一张图片需要数十分钟甚至几小时,即使使用高性能GPU进行运算也需要十几分钟,不能很好的满足实时化的应用。

快速风格迁移算法


快速风格迁移demo

demo提供了七种训练好的快速风格迁移模型,具体如下:

训练好的模型

随机选择几种进行演示,效果如下:
原始图象

wave风格化

scream风格化

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 213,752评论 6 493
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,100评论 3 387
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 159,244评论 0 349
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,099评论 1 286
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,210评论 6 385
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,307评论 1 292
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,346评论 3 412
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,133评论 0 269
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,546评论 1 306
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,849评论 2 328
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,019评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,702评论 4 337
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,331评论 3 319
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,030评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,260评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,871评论 2 365
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,898评论 2 351