ADVERSARIAL EXAMPLES IN THE PHYSICAL WORLD

1.引言

这篇文章由Goodfellow等人发表在ICLR2017会议上,是对抗样本领域的经典论文。这篇文章与以往不同的,主要是通过摄像头等传感器输入对抗样本到Inceptionv3,相当于在物理世界的实际攻击。同时论文提出BIM和ILCM对抗样本生成方法,并且与之前提出的fgsm在imagenet 验证集上进行效果比较。总的来说,这篇文章提出新的攻击方法,引入了对抗攻击有效性的指标,通过实际物理摄像头采集数据。

2.攻击方法

根据FGSM改进,提出迭代的攻击方法,称为BIM,具体为:X_{N+1}^{adv}=Clip\left\{ X_{N}^{adv} +\alpha sign(\nabla_{X} J(X_{N}^{adv},y_{ture} ))\right\},其中X_{N}^{adv}表示第N次迭代时的扰动图像,Clip表示剪辑图像(像素的值),其中\epsilon \alpha 确定步长(通常)。BIM算法以X_{N}^{adv} =X_{c}开始,并运行由公式[min(\epsilon +4,1.25\epsilon )]确定的迭代次数。该方法可以有效地降低扰动的噪声。

同时提出了迭代最不可能类别方法,称为ILCM,具体为X_{N+1}^{adv}=Clip\left\{ X_{N}^{adv} -\alpha sign(\nabla_{X} J(X_{N}^{adv},y_{LL} ))\right\},其中y_{LL}为最不可能类别的标签,这相当于目标攻击。主要是因为在cifar和mnist数据集中的类别数量少,类间差异大,而imagenet数据类别多,可能会导致没有意义的错分类,比如将一种狗错分为另一种狗。

3.物理攻击

通过手机摄像头采集打印好的干净样本和对抗样本,来实现对现实世界的攻击。并提出了摧毁率d,如下图:

分母为1时,干净样本被正确分类,对抗样本被错误分类,分子为1时,干净样本被正确分类,对抗样本被错误分类,经过变换后(打印后拍摄)的对抗样本被正确分类。

4.总结

优点:提出的攻击方法,一解决了噪声大小,二是避免没有意义的错误分类,并且讨论了通过摄像头实际拍摄对对抗样本带来的影响。

不足:该物理攻击不是很符合实际,一是将对抗样本打印好正对着拍照,而实际生活中,物体应该是多角度,立体的,二是已知被攻击网络的具体攻击,为白盒攻击,但黑盒攻击才更符合实际。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 222,104评论 6 515
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 94,816评论 3 399
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 168,697评论 0 360
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 59,836评论 1 298
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 68,851评论 6 397
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 52,441评论 1 310
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,992评论 3 421
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,899评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 46,457评论 1 318
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 38,529评论 3 341
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,664评论 1 352
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 36,346评论 5 350
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 42,025评论 3 334
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 32,511评论 0 24
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,611评论 1 272
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 49,081评论 3 377
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 45,675评论 2 359

推荐阅读更多精彩内容

  • 烘焙行业需要用到的原料非常之多,面粉、油脂、糖、鸡蛋为主要原料,烘焙油脂作为烘焙产品的主要原料之一,其在烘焙中的地...
    刘科元阅读 853评论 0 0
  • 发誓狠狠想你一回再也不要想起你。 曾经沧海难为水, 除却巫山不是云。 取次花丛懒回顾, 半缘修道半缘君。 --《离...
    50fe5d18b339阅读 665评论 0 0
  • 对镜深颦还浅笑,登台旧曲复听闻。 悲欢徒扰堂前客,风月无关戏里人。 情本无时无似有,戏同幻境幻成真。 笙歌散尽皆归...
    知鱼清欢阅读 546评论 2 9
  • “妈妈,我想吃那个大饼。”丁丁是一只贪吃的小乌龟。这是它第一次看见月亮:圆圆的,金黄金黄,又大又香,馋得它口水都流...
    脸大最萌阅读 373评论 0 6
  • 回顾一周学习的内容和收获,大家都积极参与了语音分享,大部分认同早起生命被拉长了,这就是一群人的力量,一个人可以走的...
    安画阅读 214评论 0 0