ECCV 2018 Proximal Dehaze-Net: A Prior Learning-Based Deep Network for Single Image Dehazing

Abstract

在朦胧的天气拍摄的照片通常覆盖着白色面具,并且经常丢失重要的细节。 在本文中,我们提出了一种新的深度学习方法,通过学习暗通道和传输图先验来实现单图像去雾。 首先,我们使用暗通道和传输图先验建立了一个用于除雾的能量模型,并使用邻近算子设计了这两个先验的迭代优化算法。 其次,我们通过使用卷积神经网络学习邻近算子,将迭代算法展开为深度网络,称为邻近去雾网络。 我们的网络结合了传统的基于先前的去雾方法和深度学习方法的优势,将雾霾相关的先前学习结合到深层网络中。 实验表明,我们的方法达到了单图像去雾的最先进性能。

1.Introduction

去雾模型公式


去雾模型

传统方法:
1.tan 对比度入手
2.Fattal 在假设传输图和清晰图像纹理不相关的时候,使用独立分量的方法估计传输图(看不大懂。。)
3.He 从没雾的图像的三个通道中的最小点接近于0的情况,提出了暗通道方法。
这三种方法都是利用先验或者雾的物理性质,但这些图对于真实情况和在人的观察下表现的不是很好。比如He的方法会把天空背景和雾进行搞混。
深度学习方法:

  1. Ren 采用了多尺度卷积网络来学习雾图的传输图的特征。由一个由粗到细网络和一个细处理网络
  2. Cai 提出了端到端
  3. Li AOD网络 提出了一个K模块把传输图T和大气强度A两个变量融合在一起,避免两个变量的误差
  4. 还有cvpr18中主要提出的使用gan网络用合成的方式来去雾

    然后本文提出这些方法都没有考虑雾的先验,相比传统方法。
    在本文中,我们提出了一种新的基于深度学习的方法,该方法将雾霾成像模型约束和图像先验学习集成到单个网络架构中。首先,基于雾霾成像模型,我们将单图像去雾的逆问题表示为能量模型,在颜色和暗通道空间中具有雾霾成像约束,由暗通道和透射先验正则化。其次,我们设计了一种使用半二次分裂的迭代优化算法,共同估计透射图和潜在的无雾图像。第三,我们将这种迭代算法展开为深度结构,称为邻近去雾网络,通过使用卷积神经网络学习相应的邻近算子来隐式地学习传输和暗通道先验。我们通过消融研究证明了学习的暗通道和传输先验的有效性,并且学习的近端dehaze-net导致真实和合成数据集的最新结果。
    据我们所知,这是第一个使用CNN学习单个图像去雾的暗通道和传输图T先验的作品。 与传统的基于先验的方法相比,我们的方法可以从训练数据中区别地学习与雾霾相关的先验,而不是使用手工制作的先验。 与基于深度学习的去雾方法相比,我们的方法将雾霾成像约束和雾霾相关先验学习结合到网络体系结构中,这可以提供一种有前途的基于学习的方法来解决具有挑战性的去雾的反问题。

2.Related Work

1.暗通道


暗通道
传输图
  1. Learning CNNs for image inverse problems
        与这些工作相比,我们专注于单图像去雾,这是一个具有挑战性的反问题,在成像模型中有更多的未知变量。 在这些工作中,我们不使用常见的线性逆模型,而是将单个图像去雾指定为具有暗通道和传输图先验的非线性逆问题(将在第3节中讨论)。 然后,我们提出了一个迭代求解器,并构建了一个深层体系结构,其中包含了单个图像去雾的先验学习。 这种提出的能量模型和去雾网络是新颖的,并且学习的网络在单个图像去雾中实现了最先进的结果。

3. Dehazing as An Inverse Problem

    在本节中,我们首先构建具有暗通道和透射先验的能量函数,然后基于半二次分裂(HQS)算法提出用于能量最小化的迭代求解器。 这个提出的能量模型及其迭代优化算法是构建我们网络的基础,如第4节所述。

3.1 Dehazing energy model

将方程1分通道表示

三通道

使用P,Q表示相应的雾图和潜在清晰图像,公式转化为
圆圈是矩阵的点乘

假设在一个区域内,T为常数,那么下式成立
dk表示暗通道

公式5和6联立,建立能量模型
后面两项是正则项

求解优化模型简写为
优化求解模型

Regularization terms of f and g
正则项通过NN进行学习,不用人工特征
Relationship to DCP method
暗通道是模型的一个特例。。。

3.2 Model optimization

半二次分裂算法在传统方法解决反问题中广泛使用。



引入一个U变量,来逼近潜在清晰图像的暗通道,当gamma值接近于无穷时,方程9等价于方程7,然后初始化后,有了Q,T,U三个变量可以进行固定两个,迭代计算一个,这样迭代计算。


邻近算子

主要能解决这个样子的问题。
迭代U
update U



迭代T 类似迭代U,不重复描述,见原论文
迭代Q


迭代Q

这个方程一看就有最小二乘解的,虽然怎么解早忘了。
因为暗通道是寻找每个像素周围一小块中最小的点,然后引入矩阵D,来统计哪一个是最小的


Q的解

可以通过将向量Qn重新形成和输入图像相同大小的矩阵来导出更新的去雾后图像。
Special case 忽视传输图T的正则项,暗通道正则项设为L1,

这个情况下效果和DCP情况差不多,作为baseline

4.Proximal Dehaze-Net

设计了一个端到端的CNN,用卷积网络学习邻近算子的行为


后面两个字母表示CNN结构

4.1 Network design

(a)网络中有n个stage 表示传统方法中n次迭代
(b)图中 D-NET 表示模型邻近算子的卷积神经网络


D-net模块

T-NET 和GIF-Block表示相应的邻近算子和引导滤波算法
执行了N步,最后用公式19得到Qn。最后去雾图为


A是大气强度

网络结构

D-Net and T-Net:三个级联的卷积块,(conv,relu,pool,上采样层)
卷积核大小分别为3,5,7,最后一层连1个1*1卷积,把维度调成1。最后再连relu或者sigmod

GIF-Block. 见作者提供的材料,待补。。。

5.实验

6.限制

重雾和晚上多光源表现的不好,这两个也是主要问题,之前gan的网络也有这个问题,特别是多光源,深度学习处理的简直是灾难。。。

7.结论

没说什么。。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 221,576评论 6 515
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 94,515评论 3 399
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 168,017评论 0 360
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 59,626评论 1 296
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 68,625评论 6 397
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 52,255评论 1 308
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,825评论 3 421
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,729评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 46,271评论 1 320
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 38,363评论 3 340
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,498评论 1 352
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 36,183评论 5 350
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,867评论 3 333
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 32,338评论 0 24
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,458评论 1 272
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,906评论 3 376
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 45,507评论 2 359

推荐阅读更多精彩内容