【CV论文笔记】Learning a Similarity Metric Discriminatively, with Application to Face Verification

本文主要用于介绍LeCun团队提出的一种相似性度量的方法。本笔记主要为方便初学者快速入门,以及自我回顾。

论文链接:http://yann.lecun.com/exdb/publis/pdf/chopra-05.pdf

基本目录如下:

  1. 摘要
  2. 核心思想
  3. 总结

------------------第一菇 - 摘要------------------

1.1 论文摘要

我们提出了一种方法用于从数据中去训练学习相似度的评价指标。这个方法可以被用于识别或者验证任务,通常是那种类别的数量很大,或者说是在训练的时候不确定的,然后每一个类别的训练样本又很小的。基本的思想原理就是去学习一个方法,该方法能够映射输入的特征到目标空间,然后在目标空间使用L1正则,用于近似评估输入空间的语义(semantic)距离。该方法能够被用于人脸验证任务。学习的过程就是去最小化度量损失函数,让相似的配对图之间的距离能够减少,而不相似的配对图的距离增大。整个从一个纬度空间映射到另一个纬度是通过卷积网络实现的,这种网络对各种图片的几何变化具有很好的鲁棒性。整套系统在Purdue/AR人脸数据库(具有丰富的姿态,光照,表情,位置等)上进行了测试,效果还是可以的~

------------------第二菇 - 核心思想------------------

2.1 核心思想

传统用于分类的判别式方法,包括神经网络,支持向量机等,都需要提前知道所有的类别分类。并且还希望所有的类别的样本是均匀分布的,且样本的类别数量最好是可控的(大概在100左右)。但是这种方法却并不适用于那种类目的数量很大,且在训练阶段只有一部分的样本是已知的情况。比如,人脸检测和人脸验证等。这种实际的应用场景,往往一个类别的数量是非常少的,且类目数量巨大。通常处理这种情景的办法都是基于“距离”度量的,另外一种就是基于生产式模型。

本文提出的一种解决办法就是从数据中去学习一种相似度的度量方法。这种相似度的度量方法后续可以用于匹配新的样本与已知样本。该方法的核心思想就是将输入样本映射到目标空间,然后在目标空间中用一种评估方法来衡量输入的“语义”距离。

接下来,我们就来仔细研读一下,整一套框架体系是如何搭建的。

2.1.1 Siamese Architecture

整体的网络架构如下图所示,

Siamese Architecture.jpg

假设X_1X_2就是我们的一组输入图片,Y就是一个二分类的标签,如果这组图片相似(属于同一个人)则为1,如果不相似则为0。然后W就是共享的参数,G_w(X_1)G_w(X_2)就是映射后的特征值,则我们可以定义一个标量“能量方程(energy function)”,

E_w(X_1, X_2) = ||G_w(X_1) - G_w(X_2)||

给予2组图片,其中一组是相似的,一组是不相似的,则整套机制应该符合以下的条件,

E_w(X_1, X_2) + m < E_w(X_1, X^`_2)

其中参数m就可以被解释为是margin(边缘)

为了简化公式的表达,下文将用E^G_W来表示E_w(X_1, X_2)E^I_W来表示E_w(X_1, X^`_2)

本文将考虑一组训练样本,包括1对相似的图片(E^G_W)和1对不相似对图片(E^I_W),定义总的损失函数为,

H(E^G_W, E^I_W) = L_G(E^G_W) + L_I(E^I_W)

其中L_G就是相似组对的损失,L_I就是不相似组对的损失。

经过论文中(详见论文)的一系列推导,最终推导出的公式为,

损失函数.jpg

其中Q就是一个常数,也就是可调的超参数,也就是E_W的上界。

至此,整一套架构到损失函数的设计已经讲明白了,具体的细节还需要去看原论文,以及更重要的还是要动手自己去实践体验。

------------------第三菇 - 总结------------------

3.1 总结

多实验实验后,再来重新记录一遍新得体会~

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 215,294评论 6 497
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,780评论 3 391
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 161,001评论 0 351
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,593评论 1 289
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,687评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,679评论 1 294
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,667评论 3 415
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,426评论 0 270
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,872评论 1 307
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,180评论 2 331
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,346评论 1 345
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,019评论 5 340
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,658评论 3 323
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,268评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,495评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,275评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,207评论 2 352