论文阅读“DIMC-net: Deep Incomplete Multi-view Clustering Network”

Wen J, Zhang Z, Zhang Z, et al. Dimc-net: Deep incomplete multi-view clustering network[C]//Proceedings of the 28th ACM International Conference on Multimedia. 2020: 3753-3761.

摘要导读

本文提出了一个深度不完整多视图聚类网络。主要包含视图特有的编码器以捕获不同视图的局部特征,为了减少缺失样本的负面影响引入了带权重的融合层,最后是一个可学习的聚类层以获得聚类友好的共识表示。该算法可以很好的处理不同情况下的视图不完整问题。

  • 引入了视图之间的图嵌入参与预训练
  • 自编码+图嵌入+KL聚类学习

这篇论文是CDIMC的姊妹篇,基本的模型结构式完全一致的,只是在聚类模块进行了调整。

模型浅析

DIMC-net包含四个部分:对应多视图的编码器,带权重的融合层,图嵌入以及一个聚类层。

  • view-specific encoder networks
    该模块是常规操作,用于学习不同视图中重要的视图特有的特征和结构信息。在该网络的输入层,那些视图缺失的样本使用全零向量表示。因此,给定样本x_i^{(v)},其对应的隐含表示为:h_i^{(v)}=E^{(v)}(x_i^{(v)}), h_i^{(v)} \in R^{d \times 1}
  • Weighted fusion layer
    该层用于对前序得到的隐含表示进行融合以产生共识的表示。假设G \in \{0,1\}^{n \times l}代表在每个视图中样本的缺失情况,G_{i,j}=1代表第i个样本在第j个视图可见。对于任意样本x_i = \{x_i^{(v)}\}_{v=1}^l,其共识表示为:
    作者指出,引入一个如上的权重融合层,那些缺失的视图在模型训练中不会参与运算。因此,可以为这些缺失视图填入任意的值。
  • Graph embedding
    在无监督学习中,相似的样本通常被期望在隐空间中也是类似的。基于此,本文在共识hidden表示中施加了近邻样本图约束:
    其中,Z^{(v)}是由原始视图样本表示X^{(v)}预先构建的相似图。并且为了避免引入不确定的局部信息,所构建的k近邻图满足如下条件:
    该方式可以在捕获高级特征的同时保留数据的几何结构,可以使得网络学习更具有辨别性的共识表示。
    值得指出的是,在大规模数据集中,基于batch的训练模式很难探索所有样本的近邻关系。因此,本文并没有构建全局的图约束,而是在每个batch的数据中使用了局部优化
    \overline{Z}_{i,j}^{(v)} \in R^{B_s \times B_s}是全图Z^{(v)}的子图。
  • 前面三个部分聚焦于学习共识表示,但没有保证所学到的表示适用于聚类。在DIMC-net的最后一层作者引入了深度聚类层,以达到学习适合于聚类的表示并直接产生聚类结果

    这个聚类损失在很多地方都用到了所以这里不进行赘述。

  • Overall objective function

    整体网络的损失为:
实现细节
  • 对于模型的预训练
  • 使用k-means进行类簇中心的初始化和目标分布P的初始化

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 222,252评论 6 516
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 94,886评论 3 399
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 168,814评论 0 361
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 59,869评论 1 299
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 68,888评论 6 398
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 52,475评论 1 312
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 41,010评论 3 422
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,924评论 0 277
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 46,469评论 1 319
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 38,552评论 3 342
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,680评论 1 353
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 36,362评论 5 351
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 42,037评论 3 335
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 32,519评论 0 25
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,621评论 1 274
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 49,099评论 3 378
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 45,691评论 2 361

推荐阅读更多精彩内容