A Benchmark Dataset and Evaluation Methodology for Video Object Segmentation 《CVPR》

Abstract

   我们提出了一个新的基准数据集和视频对象分割领域的评估方法。该数据集名为DAVIS(Densely Annotated VIdeo Segmentation),由50个高质量的全高清视频序列组成,涵盖了多次出现的常见视频对象分割挑战,如遮挡,运动模糊和外观变化。每个视频都附有密集注释的像素 准确的每帧真实分割.此外,我们使用三个互补指标提供了对几种最先进的分割方法的综合分析,这些指标可以测量分割的空间范围,轮廓的精确度和时间相干性。

Dataset Description


  • 1. Data Amount and Quality
       需要足够大量的数据来确保内容多样性并提供均匀分布的一系列挑战。 此外,拥有足够的数据对于避免过度拟合和延迟性能饱和至关重要,从而保证数据集的使用寿命更长。 数据质量也起着至关重要的作用,因为它应该代表当前的技术状态。 为此,DAVIS包含总共50个序列,3455个带注释的帧,全部以24fps和全高清1080p空间分辨率捕获。 由于计算复杂性是视频处理中的主要瓶颈,因此序列具有短的时间范围。
    2. Experimental Validation.
      对于每个视频帧,我们以二进制掩码的形式提供像素精确的手动创建的分割。 虽然我们将DAVIS细分为训练和测试集以提供未来工作的指导,但在我们的评估中,我们不使用划分,而是将数据集视为一个整体,因为大多数评估的方法都没有经过培训 并且由于涉及的计算复杂性,最优参数的网格搜索估计是不可行的。
    3. Object Presence
      直观地,每个序列应该包含至少一个要与背景区域分离的目标前景对象。DAVIS中的剪辑包含单个对象或两个空间连接的对象。我们选择不具有多个显著运动的不同对象,以便能够公平地比较对单个对象操作的分割方法和联合分割多个对象的分割方法。此外,每个序列具有单个对象消除了由全自动方法执行的检测的歧义。

Experimental Validation

  Metrics Selection

    1. Region Similarity J
    为了测量基于区域的分割相似性,即错误标记的像素的数量,我们使用Jaccard索引J,其被定义为估计分割和groundtruth掩模的交集。给定输出分割M和真值掩膜G,Jaccard索引定义为


    2.Contour Accuracy F
    从基于轮廓的角度来看,可以将M解释为界定掩模的空间范围的一组闭合轮廓c(M)。 因此,通过一个二分图匹配以提高对小误差的鲁棒性,我们可以比较c(M)和c(G)边缘点计算基于轮廓的精度Pc和召回率Rc.为了提高效率,在我们的实验中,我们使用形态学算子近似替代了二分匹配.我们认为所谓的F-measure F是两者之间的良好平衡

    3. Temporal stability T
    直观地,J测量两个掩模的像素匹配的程度,而F测量轮廓的精确度。 然而,结果的时间稳定性是视频对象分割中的相关方面,因为对象形状的演变是识别和抖动的重要提示,不稳定的边界在视频编辑应用中是不可接受的。 因此,我们另外引入了时间稳定性测量,其惩罚这种不期望的效果。
    关键的挑战是区分物体可接受的运动与不希望的不稳定性和抖动。为此,我们估计将掩模从一帧转换到下一帧所需的变形。直观地,如果变换是平滑和精确的,则结果可以认为是稳定的。每匹配点的平均成本作为时间稳定性T的度量。直观上,匹配将补偿运动和小的变形,但它不会补偿曲线的振荡和误差,这是我们想要测量的。遮挡和非常强的变形会被误解为轮廓不稳定,因此我们在没有这种影响的情况下计算序列子集的测量值。

  Metrics Validation

    从结果统计图中可以看出J和F有明显的线性关系,更高质量的分割通常也会产生更准确的轮廓。 但是,我们注意到,独立程度足以证明两种措施的使用是合理的。

Quantitative Evaluation

  • 均值(mean)是定义为平均数据集错误

       R是数据集视频序列Si,
    ,是在Si上的平均错误。
  • 衰减(decay)量化性能损失(或增益)随着时间的推移。
  • 对象召回率(recall)测量得分高于阈值的序列的分数

  
  

  
  
  

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,544评论 6 501
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,430评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 162,764评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,193评论 1 292
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,216评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,182评论 1 299
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,063评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,917评论 0 274
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,329评论 1 310
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,543评论 2 332
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,722评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,425评论 5 343
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,019评论 3 326
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,671评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,825评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,729评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,614评论 2 353

推荐阅读更多精彩内容