2018-03-27

论文: Convolutional Neural Networks for No-Reference Image Quality Assessment

作者 :Le kang, Peng Ye, Yi Li and David Doermann

时间 :发表2014

代码链接:代码

名词解析:MOS/DMOS、SROCC 、LCC

MOS值:平均主观得分, MOS值越大,图像质量越高;DMOS值:平均主观得分差异, DMOS值越大,图像质量越低。

SROCC:通过单调性衡量算法性能;LCC:通过相关性和准确性衡量算法性能。除此之外,还有RMSE计算绝对误差衡量准确性、KROCC、OR等衡量指标。

数据库:LIVE、TID2008作为常用数据库,初次之外还有CSIQ、IVC等。其中LIVE于2006年美国德克萨斯大学建立。包含图像 29幅,分辨率438*634-512*768。失真5种,失真图像779张。指标为DMOS(0-100分制)。TID于2008年乌克兰国家航空航天大学建立。包含图像 25幅,分辨率384*512。失真17种,失真图像1700张。指标MOS(0-9分制)

论文内容:用卷积神经网络实现无参考图像的质量评价。CNN尚未应用于通用的无参考图像质量评价,因为原始的CNN并不是专门用于获取图像质量特征,而是用于获取用于物体识别的局部不变特征。因此作者修改了网络结构,使其可以更有效的学习图像质量特征。将特征提取和回归集成到常规的CNN框架,一来加深的网络深度,提高其学习能力,如:实验表面使用比CORNIA方法更少的滤波器达到更好的效果;二来,网络作为一个整体,可以使用反向传播等简单方法对整个网络训练,比较方便地结合用于改善学习的技术,如dropout和 ReLU,因向所有层应用dropout会显著增加达到收敛的时间, 作者仅在第二个全连接层使用dropout,同时最小池化会保留负值信息,因此在卷积和池化层之后不使用ReLU。

网络输入为32*32的图像块,输出为一个数作为量化的图像质量。网络结构:第一层是一个卷积层,50个内核,每个大小为7×7的对输入进行滤波,步长为1;接着是最大最小池化;两个全链接层;最后一层是一个简单的线性回归。如图所示:


修改后的CNN结构

提取特征:基于NSS自然场景统计。传统的提取基于NSS的特征是使用小波变化或者DCT,因为图像转化代价大,因此速度很慢。CORNIA和BRISQUE方法提出从空域提取特征,减少时间花费。同时CORNIA表明,可以直接从原始图像中学习判别图像特征。在这之前,也有用神经网络做无参考的图像质量评价,采用一般回归神经网络作为输入感知特征,包括相位一致性,熵和图像梯度或者结合多个特定失真的测量方法。这些方法需要预先提取手工特征,并且只使用神经网络来学习回归函数。

论文方法特点:文章的方法无需手工特征,直接从规范化的原始图像中学习判别特征。且效果好于上面提到的ORNIA和BRISQUE方法。且文中提出的框架允许学习和预测局部图像质量。本文着重关注由图像降级引起的失真,例如模糊,压缩和加性噪声。对于对比度和亮度变化引起的质量差异不作为失真。

过程:

1)给定灰度图,作对比度归一化(局部,不同于识别中的全局归一化)

2)对归一化的图像作不重叠采用

3)使用CNN估计每个图像patch的质量

4)对patch质量平均得到整幅图像的质量

训练:

损失函数:L1范式

更新权重:


update weights

其中,learning rate=0.1,learning rate decay (d) = 0.9,starting momentums(rs)=0.9,ending momentums(re)=0.5,T=10

训练集:60%,测试集:20%; 验证集:20%。论文数据来自100次迭代训练测试

CNN设计中涉及的参数:

1)卷积核数量:实验显示,使用更多的卷积核会带来更好的性能,(测试从5个到5个)但是当内核数量超过40时,获得的性能增长很少。

2)卷积核的尺寸:从文中实验得出,(测试了5*5, 7*7, 9*9)所有测试的卷积核大小都表现出相似的性能。 建议的网络对核大小不敏感。

3)图像块尺寸:为图像块尺寸越大,数量则越少的情况,实验允许重叠采样并固定步长。这样当图像块尺寸变化时,每幅图像的块数量大体不变。实验显示尺寸越大,性能越好。不过较大的图像块会导致处理时间增加,降低空间质量分辨率(测试了16*16, )。

4)采样步长:较大的步幅通常导致较低的性能,因为较少的图像信息用于整体估计。但是在步长达到128时,依然维持了不错的性能。

关于局部质量平均实验:该CNN测量小图像块的质量,因此可用于检测低/高质量的局部区域,并为整个图像提供全局评分。验证方法如下:从TID2008中选择一个未失真的参考图像,并将其分为四个垂直部分。 然后用三种不同等级的失真版本替换第二部分到第四部分。然后使用模型进行评价。结果表面模型可以准确定位失真区域。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,997评论 6 502
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,603评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 163,359评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,309评论 1 292
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,346评论 6 390
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,258评论 1 300
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,122评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,970评论 0 275
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,403评论 1 313
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,596评论 3 334
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,769评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,464评论 5 344
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,075评论 3 327
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,705评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,848评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,831评论 2 370
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,678评论 2 354

推荐阅读更多精彩内容