Circle Loss: A Unified Perspective of Pair Similarity Optimization

本文从一个统一的角度来看待 成对的 相似度 优化问题 (Pair Similarity Optimization)，这个问题的目的是让不同类别之间的相似度 尽可能小，让同一类别的相似度 尽可能大；

统一两类损失函数

• 目前大部分的损失函数，以经典的粗分类损失函数 Softmax Cross Entrophy 和 细分类损失函数 Triplet Loss 为例子，其优化方法是可以统一起来用 和 表示，然后去减小 ( - ), 越小，越大，上式也就越小

1. 粗分类代表：Softmax 交叉熵损失函数

--------------------------------------------------------------------------------

---------------------------------------------------------------------------------

---------------------------------------------------------------------------------

softmax 交叉熵损失的特点：

• 对于目标分数的梯度为 ，为负数，
  • 梯度回传使得目标分数逐渐增加，与onehot中的 1 的差距越来越小
• 对于非目标分数的梯度为 ，为正数，
  • 梯度回传使得非目标目标分数逐渐减小，与onehot中的 0 的 差距越来越小
• ，正样本的梯度与所有其他负样本的梯度之和是等值反向的
• 所有的梯度之和为0，可以看到，回传的正负梯度是平衡的

2. 细分类代表：Triplet Loss

• 细分类相对于粗分类来说，其类别急剧增加；比如说人脸识别，就存在着好几十亿个类别，这样类别数就远大于特征的数目；这样子如果再使用softmax交叉熵来处理的话，对算力的需求就急剧增大了；而且softmax交叉熵在处理这类细微差别的效果也不好，因此就需要新的损失函数；
• FaceNet提出了 triplet loss，其目的是构造了一个三元组，使得同一类别的差距尽可能小，然后不同类别的差距尽可能大
  
  当 L 趋向于0时，，也就是说，同一类样本的距离是小于其与不同样本的距离的，即，使得同一类别的相似度尽可能大，不同类别的相似度尽可能小；
• 函数又可以通过 来拟合
  

2.1 triple loss流程：

image.png

image.png

image.png

image.png

3.两类损失的统一

粗分类和细分类的损失是可以统一起来的，其统一的损失公式如下

对于粗分类来说，softmax可以分解为：类内(onehot 为1的，只有一个) + 类外(某一类和其他类组成，N-1 个)

再来看松弛变量 （有的论文里面叫 温度 T），为什么需要 ，举例说明：
------------------------------------------------------------------
x = [1 2 3 4]
softmax(x) = [0.0321 0.0871 0.2369 0.6439]

从这个例子来看，本来1和4只差4倍，通过指数函数的放大作用，Softmax后的结果相差大约20倍。这样看，Softmax起到了近似 one-hot max 的作用，但 0.6439 其实也不算靠近1，近似效果不佳。
-----------------------------------------------------------------
x放大十倍
x = [10 20 30 40]
softmax(x) = [9.36e-14 2.06e-9 4.54e-5 1.00]
------------------------------------------------------------------
x = [0.1 0.2 0.3 0.4]
softmax(x) = [0.2138 0.2363 0.2612 0.2887]
------------------------------------------------------------------

• 温度项控制着 Softmax 的 smooth 程度， 越大，则 Softmax 越接近one-hot max， 越小，则近似效果越差。那么只要我们引入这一项，并将 设置得足够大，是不是就能解决问题了呢？

• 其实没那么容易，注意到这个 是施加在所有的分数 z 上的，所以这是对分数的一个线性变换，由于 z 本身就是通过一个内积层（全连接层）得到的，线性-线性还是线性，所以这个 在优化过程中会被融合进前边的内积层，只要进行充分的训练，是不会产生什么实际的影响的。

• 于是就可以动态的设置 ,根据当前分数 z 的大小动态地设置 ，就像炼丹一样，随时把控火炉的温度，

相似度加权，优化更加灵活

1. 相似度加权

• 当前的损失函数的优化是不灵活的，对于上面一点指出的 ，损失进行梯度回传的时候对于 和 的梯度是等值反向的；这就存在一个问题， 和 的优化不是完全同步的，也就说 和 分别与其各自的最优点的距离是不一样的
• 因此，不能以完全相同的梯度对二者进行更新，离最优点近的应该要小火慢熬，离最优点远的应该大火猛煮
• 于是，本文提出对 和 进行加权，而其权重的大小是应该与他们和最优点的距离是成正相关的，也就是说，越接近最优点，其权重应该越小，对应回传的梯度也因为乘以了这个梯度变得更小；反之，其权重就应该越大，使得回传的梯度也越大；

于是给每个相似度增加了一个权重

其中

与最优点的距离越近，这个权重就越小，与最优点的距离越远，这个权重就越大

2. Margin

• 对于没有权重的损失函数， 和 是对称的，在上附加一个正的margin 相当于 对 施加一个负的 margin,因此最后面就只需要一个margin就够了
  

• 而现在增加了权重后， 和 就不是对称的了，因此这里需要2个margin
  

  这个地方说 期望 ， 不明白；？？？？？？
  -------------------------------------------------------------

• 以二分类为例，将权重代入统一的损失函数，可以得到：
  
  
  是一个关于 ,的圆，这也就是为什么这篇文章叫做 circle loss的原因
  ---------------------------------------------------------

• 可以看到，这样子 circle loss就存在5个超参数，太麻烦，于是作者进行了简化：
  
  于是，决策边界可以改为：
  

Cicle Loss的优点：

image.png

• 1. Balanced optimization on ,
  • 如上图 A(S_n=0.8, S_p = 0.8),其中 离最优点1已经很接近了，但是离最优点0还有很远，
  • 而如图(a)所示，triplet loss 无论对还是的梯度都还很大，这是不应该的
  • 但circle loss，如图 (c) 所示，可以看到，c_左，离最优点很远，其梯度很大；同时，c_右，离最优点已经很近了，所以其梯度比较小，这是符合逻辑的
    --------------------------------------------------------
• 2. Gradually-attenuated gradients
  • 一般的梯度在收敛前都基本保持不变，直到收敛时其梯度陡降，可以看到，图(a)，triplet loss的决策面是几乎垂直的；而且B点相比与A点来说更加接近决策边界，但是他们优化时的惩罚力度是相同的，这也是不应该的
  • 而从图(c)来看，在初始远离最优点时其梯度比较大，然后慢慢接近最优点时其梯度是逐渐减低的
    ------------------------------------------------------
• 3. A (more) definite convergence target
  • triple loss的决策边界是平行 的，这样边界线上的任意一个点都可能被看作是最优点

  • 而circle loss 是圆形的分界面，其最优点就只有一个

    
    
    image.png

消融实验

1. 权重的加入，对不同的 ，性能比较稳定
   

   image.png

2. 的变化
   

   image.png

可以看到，circle loss的 增加得比SM-softmax更快，最后的拟合效果也更好。