Focal Loss for Dense Object Detection
论文地址:https://arxiv.org/pdf/1708.02002.pdf
代码地址:https://github.com/facebookresearch/Detectron
简介
针对数据不平衡情况,提出一种能让模型快速收敛的损失函数。其主要思想就是添加一个一个抑制参数,使得在训练计算损失时,抑制容易分类的样本的权重,从而让模型能够重点学习辨别那些不易区分的样本。
Facol loss
Facol损失由交叉熵(cross entropy)优化而来。
Cross entropy
交叉熵损失函数
交叉熵损失函数p的意义
Balanced Cross Entropy
添加平衡参数alpha,优化正负样本数据不平衡情况。
平衡交叉熵损失函数
Focal Loss
添加抑制参数,重点学习不易分类样本。
Focal 损失,其中gamma大于等于0
实际应用中,使用的是带平衡参数alpha的Focal损失,如下:
平衡Focal 损失
相关实验
Focal Loss 不同gamma参数下的loss曲线,gamma越大,易分类样本的重要性越低,通常取gamma=2。
模型推理时间实验
参考文献
略