最新CAM(Class Activation Map)系列工作概览(2016-2022)

因最近科研接触到这一块,索性把从2015年周老师发的CAM paper开始的一系列文章做了一个概览,以下全是个人理解,欢迎交流~
每篇文章的详细介绍在许多博客上都有,我就不重复阐述,主要还是以思维导图上的笔记(个人习惯)为主要内容。

(CVPR2016) features for discriminative localization

提出了一种名为 "class activation mapping"的技术,用于具有GAP的CNN,使得分类训练的CNN能够学习物体定位,而不需要使用任何bounding box


image.png

(ICCV2017)Grad-cam: Visual explanations from deep networks via gradient-based localization

出发点:克服CAM需要修改网络结构并对模型进行重新训练
Overview:


image.png

总结:克服CAM缺点,从梯度下手得到class-specific的权重,再加权(ReLU)得到Grad-CAM。
疑问:CAM是分类任务下得到的,那能不能反过来约束CAM来提高分类性能呢?使用relu函数是得到positive的pixel,那negative的pixel是不是也有用呢?这两个问题也有学者解决了,分别为以下两篇论文:

(ICCV2021)Towards Learning Spatially Discriminative Feature Representations

出发点: CAM-loss用CAM来约束嵌入的特征图,驱动主干表达目标类别的特征并抑制非目标类别或背景的特征,从而获得更具判别力的特征表示(CAAM可看作embedding feature map)


image.png

总结:抑制与类别信息无关的场景。强制让模型注意力聚焦在对应类别的CAM上,在此CAM上的一个分类。自己教自己应该看哪儿(知识蒸馏)。

(ECCV2020)Fixing localization errors to improve image classification

出发点:CAM可以用作额外的监督信息,negative class的CAM应该是相对平坦的且没有或很少注意力区域的,因此基于MSE和KL提出了Homogeneous Negative CAM


image.png

自我总结:抑制negative class的CAM

(WACV2018)Grad-cam++: Generalized gradient-based visual explanations for deep convolutional networks

出发点:克服Grad-CAM在多个同类目标同时出现不能定位完全的问题,通过对每个像素对最终特征图的贡献建模


image.png

总结:从一开始CAM的GAP,到Grad-CAM对feature-map的梯度,再到现在Grad-CAM中feature map每个像素的梯度权重。
疑问:梯度就真的有用吗?不会出错吗?就不存在噪声吗?

Smooth Grad-CAM++

Smooth版本的Grad-CAM++,对工作作用不大,没看

(CVPR2020) Score-cam: Score-weighted visual explanations for convolutional neural

networks
出发点:克服grad-CAM系列中梯度的影响,即梯度大的可能权重小,梯度小的可能权重大。提出通过Channel-wise Increase of Confidence来获得除梯度以外的权重
Overview:


image.png

总结:feature map和input相结合的方法可以借鉴
疑问:但pixel为小数值的图像相较于pixel为大数值的图像就没有区分能力了吗?

SS-CAM: Smoothed Score-CAM for Sharper Visual Feature Localization

Smooth版本的Score-CAM,对工作作用不大,没看

(WACV2020) Ablation-CAM: Visual Explanations for Deep Convolutional Network via Gradient-free Localization

跟Score-CAM同时期工作,思路差不多,没细看

(arxiv2020) IS-CAM: Integrated Score-CAM for axiomatic-based explanations

Score-CAM的融合扩展,没看

(ICCV2021) LFI-CAM: Learning Feature Importance for Better Visual Explanation

出发点:为了利用ABN的注意力机制,又防止ABS生成unreliable visual explanation,LFI-CAM的注意力分支将特征图视为掩码,并为每个特征图获得特征importance confidence(Similar with Score-CAM)
Overview:


image.png

总结:结合了ABN,来实现提高CAM的准确度,同时也帮助了分类性能

(CVPR2021) Relevance-CAM: Your Model Already Knows Where to Look

没细看。
Overview:


image.png

(TIP2021) LayerCAM: Exploring Hierarchical Class Activation Maps for Localization

(ICASSP) INTEGRATED GRAD-CAM: SENSITIVITY-AWARE VISUAL EXPLANATION OF DEEP CONVOLUTIONAL NETWORKS VIA INTEGRATED GRADIENT-BASED SCORING

(WACV2021) F-CAM: Full Resolution Class Activation Maps via Guided Parametric Upscaling

出发点:之前的CAM都是low resolution的,即使是用了Interpolation也没有考虑到对象的统计性质如颜色纹理等,F-CAM能构建full resolution的CAM
Overview:


image.png

内容是否要补充完整看以后的缘分吧,或者看评论需求。
时间:二零二二年二月二十二日。作者:逃学卡夫卡。声明:版权所有,侵权必究。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 219,539评论 6 508
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 93,594评论 3 396
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 165,871评论 0 356
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,963评论 1 295
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,984评论 6 393
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,763评论 1 307
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,468评论 3 420
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,357评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,850评论 1 317
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 38,002评论 3 338
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,144评论 1 351
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,823评论 5 346
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,483评论 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 32,026评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,150评论 1 272
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,415评论 3 373
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 45,092评论 2 355

推荐阅读更多精彩内容