[Paper] || KGCN详解 Knowledge Graph Convolutional Networks for Recommender Systems

一句话总结:用GCN对Knowledge Graph做Model

Motivation

推荐系统中存在的问题

  1. 用户-物品的交互数据非常稀疏
  2. 冷启动问题(有新的item加入时,无法根据用户和这个item的历史记录做推荐)


    传统推荐系统方法遇到的问题.png

解决思路:引入其它信息(Side information)

  • 社交网络
  • 物品/用户的属性
  • 上下文信息(用户在哪里买的,当时购物车里还有什么其它信息...)
  • 知识图谱

Knowledge Graph

  • 有向的异构图,节点代表实体,边表示关系
  • 一个KG包含很多三元组(头结点,关系,尾结点)


    A triple in KG.png
  • 知识图谱和推荐系统的关系:KG中的node有可能是推荐系统中的item


    如果是电影才是item.png
  • 为什么要将KG用到推荐系统:KG提供了一种关于items间相似度的计算方式


    两条新闻虽然字面上看不出来关联,但是内在含义是有相似度的.png

KG的数学表示

问题定义.png

数学表示.png

Method

Relation Scoring Function

因为KG中的边是关系型的(relation type),没有显式的权值,而GCN中的边是有权值的,所以需要先做一个转换 =>对KG中的关系打分
为用户u identity他所关注的关系,s_u(r)刻画了用户u对不同关系的偏好程度
e.g. s_u(r) = \mathbf{u}^T\mathbf{r}
比如计算user embedding 和 relation embedding的内积

Relation Scoring Function.png

对每个user,转换后的Adjacency matrix A_u都是不一样的

Layer-wise forward propagation
前向传播.png

上图显示的是标准GCN公式,只不过把原来GCN中同构图的邻接矩阵转换为了每个用户独有的A_u
A_u: Adjacency matrix of the KG for particular user u;
D_u: Diagonal degree matrix of A_u (把A_u中每个node的度数写在对角线上,其它地方都是零,作用,对A_u做normalization)
W_l: Trainable transformation matrix
H_l: Entity embedding matrix

两层感受域.png

这个式子本质上是说在KG中做了一个多跳的Message-passing,最后中间这层学到的表征是融合了它多跳领域的一个表征

Predicting Engagement Probability
接触概率预测.png

从GCN的最后一层得到entity embedding后,就可以和user embedding计算预测概率,比如用内积,MLP等。

KGCN 算法流程

KGCN algorithm.png

伪代码解释:
对一个给定的user-item对(line 2):
  计算item v的感受域(line 3, 13-19)
  用第0层(即感受域最外层)的实体表示做初始化(line 4)
   做H次聚合操作(line 5)
    在第h次,计算对每个h层的实体的邻居表示(line 7)
    和其自己第h-1层的表示\mathbf{e}^u[h-1]聚合得到\mathbf{e}^u[h](line 8)
  最终的结合H-hop邻居信息的实体表示为\mathbf{v}^u(line 9)
  和这个user的表示\mathbf{u}预测关系概率 (line 10)

原文Link: Knowledge Graph Convolutional Networks for Recommender Systems

应用

KGNN: Knowledge Graph Neural Network for Drug-Drug Interaction Prediction
这是一篇和KGCN很像的文章,用来预测药物和药物之间的相关性,不同之处在于这里的两个药物(对应user和item)都是知识图谱中的实体,所以需要得到两个药物聚合KG中各自感知域后的embedding,之后计算这两个embedding和原drug的分数,最后再用这两个分数计算药物间的相互作用概率。


KGNN和KGCN不同的地方.png
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 205,386评论 6 479
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 87,939评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,851评论 0 341
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,953评论 1 278
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,971评论 5 369
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,784评论 1 283
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,126评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,765评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 43,148评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,744评论 2 323
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,858评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,479评论 4 322
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,080评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,053评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,278评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,245评论 2 352
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,590评论 2 343

推荐阅读更多精彩内容