论文精读01-一种快速有效的单幅图像去雨网络

一种快速有效的单幅图像去雨网络

A FAST AND EFFICIENT NETWORK FOR SINGLE IMAGE DERAINING

本文提出了一种新的自适应扩展网络(ADN)来去除单幅图像中的雨条纹,同时使用较少的参数而且运行速度比以往的方法快。具体地说,构造了一个自适应扩展块(ADB)作为ADN的子模块。在ADB中,使用一个共享的扩展块来提取多尺度特征。然后添加一个扩展的选择块来利用不同尺度下特征的重要性。所有的多尺度特征融合在一起,得到具有丰富雨水细节的特征。为了进一步模拟融合特征之间的相互依赖关系,ADB采用特征选择块为每个特征分配不同的权重。此外,将每个ADB提取的层次特征串接在一起,并输入到一个雨图生成器中,以估计雨层。实验结果表明,该方法在使用较少参数的情况下,在性能和运行时间上均优于现有的方法。源代码位于https://github.com/nnUyi/ADN

提出了一种自适应扩展网络(ADN)来模拟不同尺度、形状和方向的复杂雨纹,并快速有效地去除这些雨纹。如图1所示,ADN在保持期望性能的同时需要较少的运行时间和参数。本文的主要贡献有:
(1)提出了一种自适应扩展网络(ADN)快速有效地去除雨滴图像中的雨滴条纹
(2) 在ADN中,构造了一个有效的自适应扩展块(ADB)来模拟雨纹的复杂分布,利用不同尺度下特征的重要性,自适应地模拟特征之间的相互依赖关系
(3) 与现有的方法相比,本文提出的ADN在四个合成数据集和一个真实的雨天图像集上获得了更好的性能。

来源原论文

方法介绍:

来源原论文

提出的ADN包含浅层特征抽取器、自适应扩展块(ADB)和雨图生成器。首先,利用浅层特征抽取器对雨天图像进行浅层特征提取。
F_{SFE} = f_{SFE}(I_{in}) \tag1

其中F_{SFE}表示浅层特征;f_{SFE}表示conv-leaky relu操作

由于降雨图像中的雨纹具有不同的尺度、形状和方向,为了有效地模拟雨纹的复杂分布,我们采用多个adb来充分提取多尺度特征。
F_{ADB,i} = f_{ADB,i}(F_{ADB,i},i-1) ,1<=i<=D \tag2
其中F_{ADB,i}表示通过第i层ADB进行特征提取;D表示ADB最大层数,F_{ADB,0} = F_{SFE}

所有的层次特征被连接在一起,并输入到一个雨图生成器来估计雨层。
R = f_{RMG}([F_{ADB,1},F_{ADB,2},F_{ADB,3},...,F_{ADB,D}]) \tag3

最后,从含雨图像I_{in}中加入负降雨层R,得到去雨图像I_{out}
I_{out} = I_{in}+R \tag4

损失函数

L = L_{1} + \lambda L_{SSIM} \tag5

自适应扩张块Adaptive Dilated Block(ADB)

来源原论文

自适应扩展块由共享扩展块、扩展选择块和特征选择块组成。

共用扩张块 在共享扩张块中,采用不同扩张因子的扩张卷积提取多尺度特征。为了关注不同尺度下的降雨细节,减少参数个数,每个扩张卷积层在并行共享相同参数的同时,采用不同的扩张因子来捕捉多尺度特征。

扩展的选择块 为了自适应地利用特征在不同尺度上的重要性,采用了扩展的选择块,使得ADB在多尺度特征选择中更加灵活。扩展选择块首先对所有多尺度特征进行全局平均合并,得到全局特征。采用嵌入层融合全局特征信息。在嵌入层的输入和输出之间保持相同的维数。基于图2的观察,使用softmax函数从具有不同扩张因子的扩张卷积中捕获特征图的重要因子。

特征选择块 将扩展选择块得到的所有特征相加,得到包含不同尺度雨纹的融合特征。特征选择块用于为每个融合特征分配不同的权重。特征选择块包括两个步骤:收缩步骤用于挖掘融合特征中的上下文信息,扩展步骤用于充分利用收缩步骤中聚集的信息。然后采用sigmoid函数将扩展步长的输出映射到(0,1),作为融合特征的权值。

相关参数

来源原论文

网络中堆叠了5个ADB(D=5)。在每个ADB中,采用3条路径(P=3)。所有卷积层的内核大小为3× 3除了第一层的雨图生成器内核大小为1× 1.将每个卷积层的步长设置为1,特别是将每个卷积层中的特征映射F的个数设置为16、32、64,得到ADN-16、ADN-32、ADN-64,损失函数的权重设置为λ = 1.0. 在训练过程中,每迭代1次,从输入图像对中随机生成64*64尺寸的32对切片。学习率从0.001开始,经过30000次迭代后下降到0.0001。Adam优化器采用β1=0.9和β2=0.999。我们使用Tensorflow库[26]实现ADN,并在NVIDIA Geforce GTX 1070 GPU上进行50000次迭代。

总结:

提出了自适应的扩张卷积网络(ADN)
有效地描述雨纹的复杂分布的自适应扩展块(ADB)

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 213,014评论 6 492
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,796评论 3 386
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 158,484评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,830评论 1 285
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,946评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,114评论 1 292
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,182评论 3 412
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,927评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,369评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,678评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,832评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,533评论 4 335
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,166评论 3 317
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,885评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,128评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,659评论 2 362
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,738评论 2 351

推荐阅读更多精彩内容