3D Segmentation with Exponential Logarithmic Loss for Highly Unbalanced Object Sizes

最近在肝肿瘤分割的任务上卡住了挺久,找不到提升的方法,看完这篇论文学到了很多,一个是文中提出的损失函数可以直接拿来使用,然后文中简化网络参数的设置以及辅助监督的方式也可以借鉴。

本文主要解决的问题是训练数据不平衡。

首先对当前解决这些问题的函数进行了分析。

如图,黄色那条线可以理解为普通的交叉熵loss,红色那条线可以理解为dice loss,紫色那条线可以理解为focal loss的损失。针对数据不平衡问题,交叉熵loss的做法是进行标签加权。而只使用dice loss则会对难易程度不同的样本产生没有区分的梯度。作者将focal loss 用在语义分割任务中,性能不升反降,作者认为该损失是其在高精度预测处梯度太小。所以作者提出了黑色那条线的损失函数(y=0.3),它拥有focal loss的有优点同时在高精度处又保有较大的梯度。

本文提出的指对数函数
符号含义


其次是网络部分

作者对于3D分割简化了3D VNet,削减了通道数,同时改进了卷积块增加了一个类似残差的结构(但不完全是),增加了解码器端的辅助监督。削减了高分辨率层的卷积层数(对于这点改进持怀疑),加入了高斯噪声和0.5 dropout


网络结构图

数据增扩:


采取的数据增扩措施

最后的实验效果对比


对比

从上图可以看出,只用Dice loss的效果的确有限,所以可以期待改进了Loss后分割性能会有明显提升

©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • 本文编译自谷歌开发者机器学习术语表项目,介绍了该项目所有的术语与基本解释。 A 准确率(accuracy) 分类模...
    630d0109dd74阅读 2,059评论 0 1
  • 最近发现自己的一个缺点,很多原理虽然从理论上或着数学上理解了,但是难以用一种简洁的偏于沟通的方式表达出来。所以合上...
    给力桃阅读 1,734评论 0 0
  • 文章: Focal Loss for Dense Object Detection 作者: Tsung-Yi Li...
    ZeroZone零域阅读 2,115评论 0 1
  • 机器学习术语表 本术语表中列出了一般的机器学习术语和 TensorFlow 专用术语的定义。 A A/B 测试 (...
    yalesaleng阅读 2,003评论 0 11
  • NSDate References NSDateNSDateFormatterNSDateComponentsNS...
    calmcham阅读 232评论 0 1